heliaAOT 超低功耗邊緣 AI 編譯器
超快的神經推理
heliaAOT™ 是一款預編譯型 AI 編譯器,可將 LiteRT 模型轉換為高度優化的獨立 C 語言推論模組,專為 Ambiq 的超低功耗 SoC 量身打造。 heliaAOT 專為嵌入式與邊緣 AI 應用而設計,能降低記憶體使用量、將執行時開銷降至最低,並為穿戴式裝置、醫療保健設備、智慧家庭產品及工業物聯網系統提升 AI 推論效能。

heliaAOT™ 是一款預編譯型 AI 編譯器,可將 LiteRT 模型轉換為高度優化的獨立 C 語言推論模組,專為 Ambiq 的超低功耗 SoC 量身打造。 heliaAOT 專為嵌入式與邊緣 AI 應用而設計,能降低記憶體使用量、將執行時開銷降至最低,並為穿戴式裝置、醫療保健設備、智慧家庭產品及工業物聯網系統提升 AI 推論效能。
在極小巧的封裝中即可獲得媲美 heliaRT 的推論速度——heliaAOT 在 MLPerf Tiny 模型上將記憶體佔用量大幅削減高達 2.6 倍。
隨著 AI 模型規模日益擴大且日益複雜,將其部署於電池供電的邊緣裝置上也變得愈發困難。AI 模型優化能降低記憶體需求與運算開銷,使先進的 AI 工作負載能在電力與資源限制下高效運行。這讓開發人員得以提供更精細的裝置端智慧功能,同時延長電池續航力並將對雲端的依賴降至最低。
閱讀更多
可穿戴健康裝置
語音與音訊介面
工業監測
智慧家庭產品
heliaAOT 針對電池供電的邊緣裝置及嵌入式 AI 應用,優化記憶體分配、程式碼大小、執行時效率以及 AI 推論效能。
heliaAOT 支援基於 LiteRT 的神經網路模型,適用於邊緣 AI 工作負載,包括視覺、感測器分析及音訊 AI 應用。
預先編譯可降低執行時開銷、提升執行速度、減少記憶體使用量,並使資源受限的邊緣裝置能更有效率地進行 AI 推論。
heliaAOT 專為穿戴式裝置、醫療保健設備、智慧家庭產品、工業物聯網系統、語音控制裝置,以及其他由電池供電的邊緣 AI 應用而設計。
heliaAOT 可產生經過優化的獨立 C 推論模組,藉此降低記憶體需求並提升 AI 模型的執行效率,以利於部署於邊緣裝置。
超低功耗人工智慧不僅能實現裝置端的持續智慧運算,還能延長電池續航力、降低對雲端的依賴,並提升邊緣人工智慧系統的即時響應能力。
沒有。 heliaAOT 是專為 Ambiq 的 硬體架構而特別設計,能提供比通用編譯器更深入的優化。 這正是 正是這一點,使得 Ambiq 成為開發超低功耗邊緣 AI 裝置的最佳平台。