KV mobile BG
KV desktop BGKV desktop Nemo scaled

heliaAOT 超低功耗邊緣 AI 編譯器

超快的神經推理

KV mobile Nemo 1

heliaAOT™ 是一款預編譯型 AI 編譯器,可將 LiteRT 模型轉換為高度優化的獨立 C 語言推論模組,專為 Ambiq 的超低功耗 SoC 量身打造。 heliaAOT 專為嵌入式與邊緣 AI 應用而設計,能降低記憶體使用量、將執行時開銷降至最低,並為穿戴式裝置、醫療保健設備、智慧家庭產品及工業物聯網系統提升 AI 推論效能。

heliaAOT 用於邊緣 AI 的主要功能

01

記憶體分配中的零猜測

自動張量記憶體規劃消除了過度分配,並剝離了未使用的代碼,以實現精益、高效的部署。

02

代碼大小最多縮小 10 倍

與標準版「TensorFlow Lite for Microcontrollers」相比,顯著減少了 Apollo SoC 上的快閃記憶體佔用空間。

03

深度優化和定製

使用層融合、張量重新排序和智慧記憶體放置等先進技術,在運算元、子圖或全圖級別微調推理管道。

04

無縫整合

可輕鬆整合為 Zephyr RTOS 模組,或作為 Ambiq neuralSPOT AI 開發套件 (ADK) 的外掛程式,以簡化工作流程。

不折不扣的性能


在極小巧的封裝中即可獲得媲美 heliaRT 的推論速度——heliaAOT 在 MLPerf Tiny 模型上將記憶體佔用量大幅削減高達 2.6 倍。

heliaAOT graphic

為何人工智慧模型優化至關重要

隨著 AI 模型規模日益擴大且日益複雜,將其部署於電池供電的邊緣裝置上也變得愈發困難。AI 模型優化能降低記憶體需求與運算開銷,使先進的 AI 工作負載能在電力與資源限制下高效運行。這讓開發人員得以提供更精細的裝置端智慧功能,同時延長電池續航力並將對雲端的依賴降至最低。

閱讀更多
AI Models

應用

Digital Health Devices

可穿戴健康裝置

Voice Assistant Speakers

語音與音訊介面

Industrial Edge

工業監測

smart home

智慧家庭產品

設計資源

其他文檔

  • 設置收藏夾
  • 取得更新通知
  • 使用搜尋過濾器

影片庫

hqdefault
hqdefault
hqdefault

常見問題 (FAQ)

  • heliaAOT 是 Ambiq 的 預編譯式 AI 編譯器,旨在 優化 LiteRT 及邊緣 AI 模型,以適用於超低功耗裝置。它能將 AI 模型轉換為高效的獨立 C 語言推論模組 ,並針對 針對 Ambiq SoC 進行優化。

  • heliaAOT 針對電池供電的邊緣裝置及嵌入式 AI 應用,優化記憶體分配、程式碼大小、執行時效率以及 AI 推論效能。

  • heliaAOT 支援基於 LiteRT 的神經網路模型,適用於邊緣 AI 工作負載,包括視覺、感測器分析及音訊 AI 應用。

  • 預先編譯可降低執行時開銷、提升執行速度、減少記憶體使用量,並使資源受限的邊緣裝置能更有效率地進行 AI 推論。

  • heliaAOT 專為穿戴式裝置、醫療保健設備、智慧家庭產品、工業物聯網系統、語音控制裝置,以及其他由電池供電的邊緣 AI 應用而設計。

  • heliaAOT 可產生經過優化的獨立 C 推論模組,藉此降低記憶體需求並提升 AI 模型的執行效率,以利於部署於邊緣裝置。

  • 超低功耗人工智慧不僅能實現裝置端的持續智慧運算,還能延長電池續航力、降低對雲端的依賴,並提升邊緣人工智慧系統的即時響應能力。

  • 沒有。 heliaAOT 是專為 Ambiq 的 硬體架構而特別設計,能提供比通用編譯器更深入的優化。 這正是 正是這一點,使得 Ambiq 成為開發超低功耗邊緣 AI 裝置的最佳平台。

準備下載