HeliaAOT

超高速ニューラル推論

HeliaAOTは、LiteRTモデルを高度に最適化されたスタンドアロンC推論モジュールに変換する先行コンパイラで、ambiqの超低消費電力SoC向けにカスタマイズされています。HeliaAOTは、実行時のオーバーヘッドがゼロで、コンパクトで効率的、かつ人間が読めるCコードを生成し、エッジでの電光石火の速さと電力効率に優れたAIを実現します。

HeliaAOTのハイライト

01

メモリ割り当ての推測をゼロに

自動テンソル・メモリ・プランニングは、過剰な割り当てを排除し、無駄のない効率的な配備のために未使用のコードを取り除きます。

02

最大10倍のコードサイズ

マイクロコントローラ用の標準的なTensorFlow Liteと比較して、Apollo SoCのフラッシュ・フットプリントを劇的に削減。

03

深い最適化とカスタマイズ

レイヤフュージョン、テンソルの並べ替え、インテリジェントなメモリ配置などの高度な技術により、演算子、サブグラフ、フルグラフレベルで推論パイプラインを微調整。

04

シームレスな統合

Zephyr RTOSモジュールとして、またはAmbiqのneuralSPOT AI開発キット(ADK)のプラグインとして簡単に統合でき、ワークフローを合理化できます。

妥協のないパフォーマンス

HeliaRTレベルの推論速度を小さなパッケージで実現-HeliaAOTはMLPerf Tinyモデルのメモリフットプリントを最大2.6倍削減。

デザイン・リソース

ダウンロードの準備