HeliaAOT
超快的神經推理
HeliaAOT 是一款前瞻性編譯器,能將 LiteRT 模型轉換成高度優化的獨立 C 推論模組——專為 Ambiq 超低功耗 SoC 量身打造。它能產出簡潔、高效且易於人類閱讀的 C 程式碼,且零執行時開銷,讓邊緣 AI 能達到極快且節能的效率。

HeliaAOT 是一款前瞻性編譯器,能將 LiteRT 模型轉換成高度優化的獨立 C 推論模組——專為 Ambiq 超低功耗 SoC 量身打造。它能產出簡潔、高效且易於人類閱讀的 C 程式碼,且零執行時開銷,讓邊緣 AI 能達到極快且節能的效率。
在極小的包裝中獲得 HeliaRT 水準的推論速度——HeliaAOT 在 MLPerf Tiny 模型上可將記憶體佔用減少高達 2.6×。