HeliosAOT
超快的神經推理
HeliosAOT 是一款超前編譯器,可將 LiteRT 模型轉換為高度優化的獨立 C 推理模組,專為 Ambiq 的超低功耗 SoC 量身定製。它生成緊湊、高效且人類可讀的 C 代碼,運行時開銷為零,從而在邊緣實現閃電般快速、節能的 AI。

HeliosAOT 是一款超前編譯器,可將 LiteRT 模型轉換為高度優化的獨立 C 推理模組,專為 Ambiq 的超低功耗 SoC 量身定製。它生成緊湊、高效且人類可讀的 C 代碼,運行時開銷為零,從而在邊緣實現閃電般快速、節能的 AI。
在極小的封裝中,擁有 HeliosRT 水準的推論速度——HeliosAOT 在 MLPerf Tiny 型號上可大幅減少記憶體佔用 2.6×。