heliaAOT

快速神经推理

heliaAOT™ 是一款超前编译器，可将 LiteRT 模型转换为高度优化的独立 C 语言推理模块，专为 Ambiq 的超低功耗 SoC 定制。它能生成紧凑、高效、人类可读的 C 代码，运行时开销为零，从而在边缘实现快如闪电的高能效 AI。

自动张量内存规划可消除过度分配，并删除未使用的代码，从而实现精简、高效的部署。

与标准微控制器 TensorFlow Lite 相比，大大减少了 Apollo SoC 上的闪存占用空间。

利用层融合、张量重排和智能内存放置等先进技术，在算子、子图或全图层面对推理管道进行微调。

可作为 Zephyr RTOS 模块或作为插件轻松集成到 Ambiq 的 neuralSPOT AI 开发套件 (ADK) 中，从而简化工作流程。