heliaAOT
快速神经推理
heliaAOT 是一款超前编译器,可将 LiteRT 模型转换为高度优化的独立 C 语言推理模块,专为 Ambiq 的超低功耗 SoC 定制。它能生成紧凑、高效和人类可读的 C 代码,运行时开销为零,从而在边缘实现闪电般的高能效 AI。

heliaAOT 是一款超前编译器,可将 LiteRT 模型转换为高度优化的独立 C 语言推理模块,专为 Ambiq 的超低功耗 SoC 定制。它能生成紧凑、高效和人类可读的 C 代码,运行时开销为零,从而在边缘实现闪电般的高能效 AI。
在一个小软件包中获得 heliaRT 级的推理速度--heliaAOT 可将 MLPerf Tiny 模型的内存占用减少高达 2.6 倍。