HeliosAOT

超快的神經推理

HeliosAOT 是一款超前編譯器,可將 LiteRT 模型轉換為高度優化的獨立 C 推理模組,專為 Ambiq 的超低功耗 SoC 量身定製。它生成緊湊、高效且人類可讀的 C 代碼,運行時開銷為零,從而在邊緣實現閃電般快速、節能的 AI。

HeliosAOT 精華

01

記憶體分配中的零猜測

自動張量記憶體規劃消除了過度分配,並剝離了未使用的代碼,以實現精益、高效的部署。

02

代碼大小最多縮小 10 倍

與標準的微控制器 TensorFlow Lite 相比,Apollo SoC 大幅減少閃存體積。

03

深度優化和定製

使用層融合、張量重新排序和智慧記憶體放置等先進技術,在運算元、子圖或全圖級別微調推理管道。

04

無縫集成

可輕鬆整合為 Zephyr RTOS 模組,或作為 Ambiq neuralSPOT AI 開發套件(ADK)的外掛,簡化工作流程。

不折不扣的性能

在極小的封裝中,擁有 HeliosRT 水準的推論速度——HeliosAOT 在 MLPerf Tiny 型號上可大幅減少記憶體佔用 2.6×。

設計資源

準備下載