• 產品
  • 應用
  • 技術
  • 工具
  • 關於我們
  • HeliosAOT

    超快的神經推理

    HeliosAOT 是一款超前編譯器,可將 LiteRT 模型轉換為高度優化的獨立 C 推理模組,專為 Ambiq 的超低功耗 SoC 量身定製。它生成緊湊、高效且人類可讀的 C 代碼,運行時開銷為零,從而在邊緣實現閃電般快速、節能的 AI。

    HeliosAOT 精華

    01

    記憶體分配中的零猜測

    自動張量記憶體規劃消除了過度分配,並剝離了未使用的代碼,以實現精益、高效的部署。

    02

    代碼大小最多縮小 10 倍

    與標準的微控制器 TensorFlow Lite 相比,Apollo SoC 大幅減少閃存體積。

    03

    深度優化和定製

    使用層融合、張量重新排序和智慧記憶體放置等先進技術,在運算元、子圖或全圖級別微調推理管道。

    04

    無縫集成

    可輕鬆整合為 Zephyr RTOS 模組,或作為 Ambiq neuralSPOT AI 開發套件(ADK)的外掛,簡化工作流程。

    不折不扣的性能

    在極小的封裝中,擁有 HeliosRT 水準的推論速度——HeliosAOT 在 MLPerf Tiny 型號上可大幅減少記憶體佔用 2.6×。

    設計資源

    準備下載