KV mobile BG
KV desktop BGKV desktop Nemo scaled

heliaAOT 超低消費電力エッジAIコンパイラ

超高速ニューラル推論

KV mobile Nemo 1

heliaAOT™ は、LiteRT モデルを、Ambiq の超低消費電力 SoC に最適化された、高度に最適化されたスタンドアロン型の C 言語推論モジュールに変換する、Ahead-of-Time(AOT)AI コンパイラです。 組み込みおよびエッジAIアプリケーション向けに設計されたheliaAOTは、メモリ使用量を削減し、実行時のオーバーヘッドを最小限に抑え、ウェアラブルデバイス、医療機器、スマートホーム製品、産業用IoTシステムにおけるAI推論パフォーマンスを向上させます。

エッジAI向け「heliaAOT」の主な機能

01

メモリ割り当ての推測をゼロに

自動テンソル・メモリ・プランニングは、過剰な割り当てを排除し、無駄のない効率的な配備のために未使用のコードを取り除きます。

02

最大10倍のコードサイズ

標準の「TensorFlow Lite for Microcontrollers」と比較して、Apollo SoC上のフラッシュメモリ占有量を大幅に削減します。

03

深い最適化とカスタマイズ

レイヤフュージョン、テンソルの並べ替え、インテリジェントなメモリ配置などの高度な技術により、演算子、サブグラフ、フルグラフレベルで推論パイプラインを微調整。

04

シームレスな統合

Zephyr RTOSモジュールとして、あるいはAmbiq社のneuralSPOT AI開発キット(ADK)のプラグインとして簡単に統合でき、ワークフローを効率化できます。

妥協のないパフォーマンス


コンパクトなパッケージでheliaRT並みの推論速度を実現――heliaAOTは、MLPerf Tinyモデルにおいてメモリ使用量を最大2.6倍削減します。

heliaAOT graphic

AIモデルの最適化が重要な理由

AIモデルがより大規模かつ高度になるにつれ、バッテリー駆動のエッジデバイスへの展開はますます困難になっています。AIモデルの最適化により、メモリ要件と計算オーバーヘッドを削減できるため、電力やリソースの制約の中でも高度なAIワークロードを効率的に実行できるようになります。これにより、開発者はバッテリー寿命を維持し、クラウドへの依存を最小限に抑えつつ、より高度なデバイス内インテリジェンスを実現できます。

続きを読む
AI Models

アプリケーション

Digital Health Devices

ウェアラブル健康機器

Voice Assistant Speakers

音声およびオーディオインターフェース

Industrial Edge

産業用モニタリング

smart home

スマートホーム製品

デザイン・リソース

追加ドキュメント

  • お気に入りを設定
  • 更新通知を受け取る
  • 検索フィルターを使用する

動画ライブラリ

hqdefault
hqdefault
hqdefault

よくある質問(FAQ)

  • heliaAOT は Ambiq社の 「ahead-of-time(AOT)」AIコンパイラであり、 最適化 LiteRT およびエッジAIモデルを最適化するよう設計された、超低消費電力デバイス向けのAIコンパイラです。AIモデルを、効率的なスタンドアロンのC言語推論モジュールに変換します に最適化された Ambiq Ambiq SoC向けに最適化された効率的なスタンドアロンCインファレンスモジュールに変換します。

  • heliaAOT は、バッテリー駆動のエッジデバイスや組み込みAIアプリケーション向けに、メモリ割り当て、コードサイズ、実行時の効率、およびAI推論性能を最適化します。

  • heliaAOT は、ビジョン、センサー分析、音声AIアプリケーションなど、エッジAIワークロード向けのLiteRTベースのニューラルネットワークモデルをサポートしています。

  • 事前コンパイルにより、実行時のオーバーヘッドが軽減され、実行速度が向上し、メモリ使用量が最小限に抑えられ、リソースに制約のあるエッジデバイス上でより効率的なAI推論が可能になります。

  • heliaAOT は、ウェアラブル機器、ヘルスケア機器、スマートホーム製品、産業用IoTシステム、音声対応デバイス、およびその他のバッテリー駆動型エッジAIアプリケーション向けに設計されています。

  • heliaAOT エッジデバイスへの展開において、メモリ要件を削減し、AIモデルの実行効率を向上させる、最適化されたスタンドアロンC推論モジュールを生成します。

  • 超低消費電力のAIにより、エッジAIシステムにおいて、デバイス上での継続的なインテリジェンスを実現すると同時に、バッテリー寿命を延長し、クラウドへの依存度を低減し、リアルタイムの応答性を向上させます。

  • いいえ。 heliaAOT は、 Ambiqの ハードウェアアーキテクチャ向けに特別に設計されており、汎用コンパイラでは実現できないレベルの高度な最適化を実現します。 これが これが、 Ambiq 超低消費電力のエッジAIデバイスを開発するための最適なプラットフォームとなっている理由の一つです。

ダウンロードの準備