heliaAOT
超快的神經推理
heliaAOT 是一款前瞻性編譯器,能將 LiteRT 模型轉換成高度優化的獨立 C 推論模組——專為 Ambiq 超低功耗 SoC 量身打造。它能產出簡潔、高效且易於人類閱讀的 C 程式碼,且零執行時開銷,讓邊緣 AI 能達到極快且節能的效率。

heliaAOT 是一款前瞻性編譯器,能將 LiteRT 模型轉換成高度優化的獨立 C 推論模組——專為 Ambiq 超低功耗 SoC 量身打造。它能產出簡潔、高效且易於人類閱讀的 C 程式碼,且零執行時開銷,讓邊緣 AI 能達到極快且節能的效率。
在小巧的封裝中擁有 heliaRT 級別的推論速度——heliaAOT 在 MLPerf Tiny 模型上可將記憶體佔用減少高達 2.6×。