heliaProfiler bg mobile
heliaProfiler bg desktopheliaProfiler visual desktop scaled

heliaPROFILER: エッジAI向けのサイクル精度プロファイリング

Ambiq AI向けに構築されたプロファイリング

heliaProfiler kv mobile

heliaPROFILER™ は、Ambiq が提供する HELIA™ AI エコシステム向けのオープンソースのプロファイリングツールであり、開発者に Apollo SoC における AI モデルの実行状況をサイクル単位で正確に把握できる情報を提供します。1 つのコマンドでビルド、フラッシュ、およびパフォーマンス、メモリ、エネルギー効率に関するレポートの生成が可能であり、チームがエッジ AI モデルをより迅速に最適化できるよう支援します。

01

実行エンジンの選択

同じワークフローを用いて、このモデルを標準のTFLM、heliaRT™、またはheliaAOT™と比較することで、Ambiqの最適化された実行時間とコンパイラがベースラインに対してどの程度性能を向上させているかを、一目で確認することができます。

02

エンドツーエンドの自動プロファイリング

heliaPROFILERSは、単一のhpxプロファイルコマンドから、ビルド、フラッシュ、キャプチャ、レポート作成という一連の処理をすべて実行し、断片化されていた手作業に取って代わります。

03

コンパイラとツールチェーンの柔軟性

heliaPROFILERSは、GCC、Arm Compiler for Embedded (ACfE)、およびArm Toolchain for Embedded (ATfE) をサポートしており、開発者は一貫したワークフローを通じてツールチェーンの設定を比較することができます。

04

推論あたりの電力およびエネルギー

オプションのJoulescope連携機能により、推論ごとの電力消費量とエネルギー消費量を測定できるため、開発者はエネルギー効率とバッテリー駆動時間のトレードオフを直接評価することができます。

あらゆる段階での最適化

heliaPROFILERSは、DWTサイクルカウント機能を備えたApollo 3および4から、Apollo510での完全なArmv8-M PMUアクセスに至るまで、Apolloプラットフォーム全体をサポートしています。 YAMLベースの設定によりプロファイリングの実行を再現可能にし、実行ごとにメモリ配置を構成でき、組み込みの結果比較機能によりCI/CDパイプラインでのリグレッションを検出できるため、開発からデプロイに至るまでのワークフローをプロファイリングがサポートします。また、レイヤーごとのメトリクスはGoogleのModel Explorer用のJSONオーバーレイとしてエクスポートされるため、ホットオペレーターを一目で簡単に特定できます。

デザイン・リソース

heliaPROFILER 開発者ハブ - heliaPROFILER の統合をスムーズに開始するための、ステップバイステップガイド、実践的なサンプル、パフォーマンスベンチマークをご覧ください。
Ambiq AI ハブ- neuralSPOT® AI SDK およびツールキット、ならびに当社の heartKIT、sleepKIT、soundKIT ADK を詳しくご覧ください。

追加ドキュメント

  • お気に入りを設定
  • 更新通知を受け取る
  • 検索フィルターを使用する

動画ライブラリ

hqdefault
hqdefault
hqdefault

よくある質問

  • heliaPROFILER™ は Ambiqの Apollo SoC上で動作するAIモデル向けのオープンソースプロファイリングツールです。これにより、開発者はモデルが実際に ハードウェア上で ハードウェア上で実際にどのように実行されるかを、サイクル単位の精度で可視化します。サイクル数、命令数、キャッシュ統計、およびレイヤーごとのPMU内訳を、すべて1つのコマンドで取得できます。

  • 組み込みハードウェア上でのAIワークロードのプロファイリングは、従来、ツールが分散しており、手動による分析が必要だったため、 最適化 作業の進行を遅らせてきました。 heliaPROFILER™ heliaPROFILER™は、 そのプロセスを単一の自動化されたワークフローに統合し、開発者が ボトルネックを特定し ボトルネックを特定し、独自のツールを組み合わせて準備することなく、最適化戦略を比較できるようになります。

  • エッジAIを開発しているチームは、しばしば 特定できない 、多大な手作業による計測を行わなければ、パフォーマンスの問題がモデル、ランタイム、コンパイラ、あるいはハードウェアのどこに起因しているのかを特定できません。 heliaPROFILER™ は、標準のTFLMと並行してプロファイリングを行うことで、その疑問に直接答えます。 heliaRT™と連携して標準のTFLMをプロファイリングすることで、その疑問に直接答えます。 および heliaAOT™を同じワークフローを通じて比較分析することで、その疑問に直接答えています。これにより、開発者はAmbiq を同じワークフローを通じて処理できるため、開発者はAmbiqの最適化がどこで効果を発揮しているかを正確に把握し、 最適化 に時間を割くことができます。

  • これは、 heliaPROFILERS™ は、実際に何が 実行中に チップ上で実際に何が起きているかを測定し、推定値ではないということです。Apollo510のPMUカウンタや、それ以前のApolloハードウェアのDWTサイクルカウントを活用し、モデルが消費するサイクル数、命令数、キャッシュイベント数を、レイヤーごとに正確に報告します。

  • heliaRT™ そして heliaAOT™ Ambiqハードウェア上でAI推論を実行するには、2つの方法があります, についてe ruとしてntime intえーとpreterと、もう1つは事前コンパイラとして。 heliaPROFILERS™ ~ない run inference それ自体f, 私だa標準的なTFLMの下でモデルがどのように動作するかを確認し、 heliaRT、または heliaAOT, so devel事業者はこれら3つをすべて比較して、選択することができます リグht パス for 彼らのr アプリケーション.

  • はい。 heliaPROFILER™ には、Apollo 3、4、および 5 用のプラットフォーム定義が組み込まれており、Apollo510 では Armv8-M PMU への完全なアクセスが可能で、Apollo 3 および 4 では DWT ベースのサイクルカウントが利用可能です。

  • はい。 heliaPROFILER™ sは GCC、Arm Compiler for Embedded (ACfE)、およびArm Toolchain for Embedded (ATfE)に対応しているため、開発者は 同一のモードを一貫したワークフローを通じてプロファイリングできるようになり、比較のたびに環境を再構築する必要がなくなります。

  • オプションの Joulescope との連携により、 heliaPROFILERS™ はは、単なる電流や電圧の値だけでなく、推論単位ごとの電力およびエネルギー消費量を測定します。これにより、開発者はモデルレベルでエネルギーコストを直接把握できるため、デプロイ後に問題が発覚するのを防ぎ、開発段階でバッテリー寿命に関するトレードオフを容易に評価できるようになります。

  • いいえ。YAMLベースの設定により、プロファイリングの実行は 再現性を確保し、 実行ごとにメモリ配置を構成可能であり、組み込みの結果比較機能によりCI/CDパイプラインでのリグレッションの検出が可能です。これにより heliaPROFILERS™は、プロジェクト全体を通じて継続的な最適化や回帰テストに は、単なる 初期の パフォーマンスチェック」にとどまらず、プロジェクト全体を通じた継続的な最適化や回帰テストにも適しています。

  • heliaPROFILERS™ は現在、 Ambiqの GitHubページから入手可能です。ドキュメント、入門ガイド、および完全なコマンドリファレンスは、 heliaPROFILERS 開発者ハブで公開されています。

ダウンロードの準備