heliaProfiler bg mobile
heliaProfiler bg desktopheliaProfiler visual desktop scaled

heliaPROFILER:適用於邊緣 AI 的週期精確效能分析

專為 Ambiq AI 打造的特徵分析

heliaProfiler kv mobile

heliaPROFILER™ 是 Ambiq 針對 HELIA™ AI 生態系統所開發的開源分析工具,能為開發人員提供關於 AI 模型在 Apollo SoC 上執行時、精確至單一週期的分析洞察。只需單一指令,即可完成建置、燒錄,並生成有關效能、記憶體及能源效率的報告,協助團隊更快速地優化邊緣 AI 模型。

01

執行引擎的選擇

透過相同的工作流程,將同一模型與標準 TFLM、heliaRT™ 或 heliaAOT™ 進行效能對比,藉此輕鬆了解 Ambiq 的優化執行時間與編譯器相較於基準方案究竟帶來多少提升。

02

端到端自動化分析

heliaPROFILER 僅需透過單一 hpx profile 指令,即可執行完整的處理流程——包括建置、快閃、擷取及產生報告——取代零散的手動操作。

03

編譯器與工具鏈的靈活性

heliaPROFILER 支援 GCC、Arm 嵌入式編譯器 (ACfE) 以及 Arm 嵌入式工具鏈 (ATfE),讓開發人員能夠透過一致的工作流程來比較各種工具鏈配置。

04

每次推論的功與能量

可選的 Joulescope 整合功能能針對每次推論分別測量功耗與能耗,讓開發人員能夠直接評估能源效率與電池續航力之間的權衡關係。

每個階段皆進行優化

heliaPROFILER 支援完整的 Apollo 平台,從具備 DWT 循環計數功能的 Apollo 3 和 4,到 Apollo510 上完整的 Armv8-M PMU 存取功能。 基於 YAML 的配置讓效能分析執行具有可重現性,記憶體配置可針對每次執行進行調整,而內建的結果比較功能則能偵測 CI/CD 管道中的退化現象,因此效能分析能從開發到部署全程支援您的工作流程。各層級的指標亦可匯出為適用於 Google Model Explorer 的 JSON 疊加層,讓您能一目了然地找出熱操作子。

設計資源

heliaPROFILER 開發者中心– 探索逐步指南、實踐範例和效能基準,快速啟動 heliaPROFILER 整合。
Ambiq AI Hub – 深入了解 neuralSPOT® AI SDK 和工具包以及我們的 heartKIT、sleepKIT 和 soundKIT ADK

其他文檔

  • 設置收藏夾
  • 取得更新通知
  • 使用搜尋過濾器

影像資料庫

hqdefault
hqdefault
hqdefault

常見問題

  • heliaPROFILER™ 是 Ambiq 的 專為在 Apollo SoC 上運行的 AI 模型所開發的開源效能分析工具。它能讓開發者以時鐘週期為單位,精確掌握模型實際 在 硬體上實際執行情況的時鐘週期精確可視性,涵蓋時鐘週期數、指令數、快取統計資料,以及各層的 PMU 細項分析,所有功能皆可透過單一指令完成。

  • 在嵌入式硬體上對 AI 工作負載進行效能分析,通常意味著必須使用零散的工具並進行手動分析,這會拖慢 優化 工作進度。 heliaPROFILER™ 將 該流程整合為單一自動化工作流程,讓開發人員能夠 找出 瓶頸,並比較各種優化策略,而無需自行拼湊工具組合。

  • 開發邊緣人工智慧的團隊往往 無法 在未進行大量手動儀器化分析的情況下,無法判斷效能問題究竟源自模型、執行環境、編譯器,還是硬體。 heliaPROFILER™ 透過對標準 TFLM 進行效能分析,並搭配 heliaRT™ 及 heliaAOT™™ 透過相同的工作流程,讓開發人員能精確掌握 Ambiq 的優化措施在哪些環節發揮成效,並將時間投入於 進行優化 ,而非耗費心力建置效能分析基礎架構。

  • 這表示 heliaPROFILER™ 能測量 實際發生的情況 ,而非估算值。透過 Apollo510 上的 PMU 計數器,以及早期 Apollo 硬體上的 DWT 週期計數,它能逐層報告模型實際消耗的週期數、指令數及快取事件數。

  • heliaRT™ 以及 heliaAOT™ 在 Ambiq 硬體上執行 AI 推論有兩種方式, 於e 作為一項規則ntime interpreter 以及一個用作預編譯器的版本。 heliaPROFILER™ 並非 執行 inference itself, 就是我a說明模型在標準 TFLM 下的表現, heliaRT,或 heliaAOT, 所以開發營運商可以比較這三種方案並做出選擇 鑽井平台ht 路徑為r 他們的r 應用程式.

  • 是的。 heliaPROFILER™ 內建 Apollo 3、4 及 5 的平台定義,在 Apollo510 上可完全存取 Armv8-M PMU,並在 Apollo 3 和 4 上提供基於 DWT 的週期計數功能。

  • 是的。 heliaPROFILER™ s支援 GCC、Arm 嵌入式編譯器 (ACfE)以及 Arm 嵌入式工具鏈(ATfE),因此開發人員可以以 同一模式進行效能分析,無需為每次比較而重新建置環境。

  • 搭配選配的 Joulescope 整合後, heliaPROFILER™ 可是基於每次推論來測量功率與能耗,而非僅測量原始電流和電壓。這讓開發人員能直接在模型層級掌握能耗成本,使他們在開發階段便能更輕鬆地評估電池續航力的權衡取捨,而非在部署後才發現這些問題。

  • 不。基於 YAML 的配置可讓效能分析執行過程 具有可重現性, 每次執行皆可自訂記憶體配置,且內建的結果比對功能能協助在 CI/CD 管道中偵測退化現象。這使得 heliaPROFILER™ 非常適合在整個專案過程中進行持續優化與回歸測試,而不僅僅是 初始 效能檢查。

  • heliaPROFILER™ 現已透過 Ambiq 的 GitHub 頁面取得。相關文件、入門指南及完整的命令參考,請參閱 heliaPROFILER 開發者中心中。

準備下載