heliaCORE：エッジAI向け最適化カーネル

ArmのCMSIS-NNのような既存のツールは、確固たる業界標準の基盤を提供していますが、それらは 当初から Ambiqのために Ambiqの 特定の半導体やAIワークロード Ambiq 顧客が 実際に提供している。 heliaCORE™ CMSIS-NNを置き換えるのではなく、その上に構築されており、エンジニアがすでに慣れ親しんでいるAPIやドキュメントを維持しつつ、汎用ツールにはないApollo独自のチューニング機能やカバレッジを追加しています。 どのようなデバイスで使用できるか heliaRT™を使用できるデバイスはどれですか？

Ambiq上のすべての新しいエッジAIプロジェクト Ambiq シリコン上で新たに開始されるエッジAIプロジェクトのたびに、チームは手作業で組み立て、統合し、 最適化 する必要があり、実際の製品開発に着手できるまでに数ヶ月を要することがよくありました。 heliaCORE™ は、その基盤をあらかじめ統合・最適化済みの状態で提供するため、チームは すぐに すぐに を 再構築する必要がなく、すぐに 

MLPerf Tinyは、エッジ AI, 5つのモデルと計80の演算をテストします。 Ambiq は heliaCORE™の妥当性を検証しました。 を、実運用を反映した40以上のモデルと963件のオペレーター事例からなる一連のデータセットに対して検証し、 業界ベンチマークの運用ボリュームの約12 倍の運用規模に相当します。この差は、ベンチマークがテストする内容と、実際の製品が実行できる内容との違いを反映しています。 

製品 が 標準的なベンチマークに対してのみ最適化された製品であっても、それらのベンチマークが が 実稼働環境の複雑さを反映していない場合、実際の運用環境では依然としてパフォーマンスが低下する可能性があります。 Ambiqの 社内プロファイリングによると、主要なカーネルが完全に最適化された後でも、メインの計算を取り巻く操作（パディング、活性化、削減、再形成）が、実際のワークロードにおいてかなりの処理時間を消費していることが判明しました。 heliaCORE™ は、ベンチマークで測定される部分だけでなく、パイプライン全体に対応しています。 

heliaCORE™ これが基盤であり、他のすべての要素が構築される、最適化されたカーネル層です。 heliaRT™ は、 heliaCORE を使用して、デバイス上でAI推論を実行するためのランタイムパスです。 heliaAOT™ これは、リリース前にコードに効率性を組み込んでおく「事前コンパイル（Ahead-of-Time）」のパスであり、これもまた heliaCOREによって駆動されています。 heliaCORE をエンジン、 heliaRT および heliaAOT を2つの 異なる方法 として利用できます。 

はい。 heliaCORE™ には、現行世代のApollo SoC向けのMVEアクセラレーションと、前世代のデバイス向けのDSPアクセラレーションの両方が含まれています。どちらの世代も取り残されることはありません。 

両方です。 heliaCORE™ は、ArmのCMSIS-NN（オープンな業界標準のエコシステム）を基盤としており、そのAPI、ドキュメント、およびライセンス条項を完全に維持しています。Apollo固有のカーネルチューニング、オペレータの対応範囲の拡大、およびプラットフォーム統合は Ambiq による追加機能であり、このオープンな基盤の上に構築されています。 

heliaCORE は、Ambiqのお客様およびパートナーの皆様に現在ご利用いただけます。ドキュメントおよびアクセスについては、 AmbiqのGitHubページ および www.ambiq.com/AI/heliaCOREからご利用いただけます。