HeliosAOT

超快的神經推理

HeliosAOT 是一款超前編譯器，可將 LiteRT 模型轉換為高度優化的獨立 C 推理模組，專為 Ambiq 的超低功耗 SoC 量身定製。它生成緊湊、高效且人類可讀的 C 代碼，運行時開銷為零，從而在邊緣實現閃電般快速、節能的 AI。

自動張量記憶體規劃消除了過度分配，並剝離了未使用的代碼，以實現精益、高效的部署。

與用於微控制器的標準 TensorFlow Lite 相比，顯著減少了 Apollo SoC 上的快閃記憶體佔用空間。

使用層融合、張量重新排序和智慧記憶體放置等先進技術，在運算元、子圖或全圖級別微調推理管道。

可輕鬆集成為 Zephyr RTOS 模組或作為外掛程式整合到 Ambiq 的 neuralSPOT AI 開發套件（ADK），以簡化工作流程。

探索分步指南、動手示例和性能基準，以啟動您的 HeliosAOT 集成

深入瞭解 neuralSPOT AI SDK 和工具包以及我們的 heartKIT、sleepKIT 和 soundKIT ADK——在 Ambiq 設備上構建、部署和優化 AI 所需的一切集中在一個地方