heliaAOT 超低功耗边缘 AI 编译器
快速神经推理
heliaAOT™ 是一款预编译型 AI 编译器,可将 LiteRT 模型转换为高度优化的独立 C 语言推理模块,专为 Ambiq 的超低功耗 SoC 量身定制。 heliaAOT 专为嵌入式和边缘 AI 应用设计,可降低内存占用、最大限度减少运行时开销,并提升可穿戴设备、医疗设备、智能家居产品及工业物联网系统中的 AI 推理性能。

heliaAOT™ 是一款预编译型 AI 编译器,可将 LiteRT 模型转换为高度优化的独立 C 语言推理模块,专为 Ambiq 的超低功耗 SoC 量身定制。 heliaAOT 专为嵌入式和边缘 AI 应用设计,可降低内存占用、最大限度减少运行时开销,并提升可穿戴设备、医疗设备、智能家居产品及工业物联网系统中的 AI 推理性能。
在微型封装中实现与 heliaRT 相当的推理速度——heliaAOT 在 MLPerf Tiny 模型上将内存占用减少多达 2.6 倍。
随着AI模型规模不断扩大、复杂度不断提升,将其部署在电池供电的边缘设备上变得越来越具有挑战性。AI模型优化可以降低内存需求和计算开销,使高级AI工作负载能够在功耗和资源限制内高效运行。这使开发人员能够在延长电池续航时间并最大限度减少对云端依赖的同时,提供更复杂的设备端智能功能。
更多信息
可穿戴健康设备
语音和音频接口
工业监测
智能家居产品
heliaAOT 针对电池供电的边缘设备和嵌入式AI应用,优化了内存分配、代码大小、运行时效率以及AI推理性能。
heliaAOT 支持基于 LiteRT 的神经网络模型,适用于边缘 AI 工作负载,包括视觉、传感器分析和音频 AI 应用。
预编译可减少运行时开销,提高执行速度,最大限度地降低内存占用,并使资源受限的边缘设备能够更高效地进行AI推理。
heliaAOT 专为可穿戴设备、医疗保健设备、智能家居产品、工业物联网系统、语音控制设备以及其他电池供电的边缘AI应用而设计。
heliaAOT 可生成经过优化的独立C语言推理模块,从而降低内存需求并提升AI模型的执行效率,以便在边缘设备上部署。
超低功耗AI可在延长电池续航时间、降低对云端的依赖并提升边缘AI系统的实时响应能力的同时,实现设备端的持续智能处理。
编号。 heliaAOT 是专为 Ambiq的 硬件架构而专门设计的,其优化深度远超通用编译器所能达到的水平。 这也是 正是这些因素之一,使得 Ambiq 成为开发超低功耗边缘AI设备的最佳平台的关键因素之一。