heliaCORE 边缘AI优化内核
Ambiq AI 的内核加速
heliaCORE™ 是 Ambiq 为 Ambiq SPOT SoC 优化的神经网络内核层,通过高效的 AI Kernels 和全面的操作子加速功能,使开发人员能够在资源受限的边缘设备上快速将 AI 产品推向市场。 与 MLPerf Tiny 相比,它支持约 12 倍数量的操作子实例进行验证,覆盖了更多真实场景的 AI 工作负载。

heliaCORE™ 是 Ambiq 为 Ambiq SPOT SoC 优化的神经网络内核层,通过高效的 AI Kernels 和全面的操作子加速功能,使开发人员能够在资源受限的边缘设备上快速将 AI 产品推向市场。 与 MLPerf Tiny 相比,它支持约 12 倍数量的操作子实例进行验证,覆盖了更多真实场景的 AI 工作负载。
该基准测试展示了heliaCORE在Apollo510(Cortex-M55)上通过标量参考、DSP和MVE执行路径所实现的性能。 由于这三条路径均在同一SoC上以相同的时钟频率运行,因此测试结果能够直观地对每条指令集架构(ISA)优化路径带来的性能提升进行“同等条件”下的直接比较。
AI 性能不仅取决于模型架构。高效的内核实现有助于加速常见的 AI 运算,提高资源利用率,并降低软件集成的复杂性。对于在严格的内存和功耗限制下运行的边缘设备,经过优化的 AI Kernels 可帮助开发者获得更可预测的性能,同时加速生产就绪型 AI 应用程序的部署。
更多信息
可穿戴设备
音频与语音处理
工业监测
Consumer Edge AI 产品
heliaCORE Developer Hub - Explore step-by-step guides, hands-on examples, and performance benchmarks to kickstart heliaCORE integration.
Ambiq AI Hub - Dive into neuralSPOT® AI SDK & toolkit and our heartKIT, sleepKIT, and soundKIT ADKs
heliaCORE Developer Hub - Explore step-by-step guides, hands-on examples, and performance benchmarks to kickstart heliaCORE integration.
Ambiq AI Hub - Dive into neuralSPOT® AI SDK & toolkit and our heartKIT, sleepKIT, and soundKIT ADKs
像Arm的CMSIS-NN这样的现有工具虽然提供了坚实的行业标准基础,但它们 并非 专为 Ambiq的 特定芯片或AI工作负载而设计的 Ambiq 客户 实际交付。 heliaCORE™ 该工具是在 CMSIS-NN 的基础上构建的,而非取代它,既保留了工程师们已经熟悉的 API 和文档,又增加了通用工具所缺乏的、针对 Apollo 的特定调优和覆盖范围。 哪些设备可以使用 heliaRT™?
在 Ambiq 芯片上,此前都需要团队手动组装、集成和 优化 软件栈,往往需要数月时间才能开始任何实际的产品开发工作。 heliaCORE™ 提供的是预集成且预优化的基础架构,因此团队可以 立即 ,而无需重新构建基础设施 ——这些基础设施 已经构建的基础设施。
MLPerf Tiny 是业界公认的边缘 AI, 它测试了5个模型和总计80项操作。 Ambiq 已通过 heliaCORE™ ,并将其与一套具有现场代表性的、包含40多个模型和963个操作实例的数据集进行验证, 约12 倍于行业基准测试的运行量。这一差距反映了基准测试内容与实际产品可运行内容之间的差异。
一款产品 仅针对 仅针对标准基准测试进行优化的产品,如果这些基准测试 未能 能反映生产环境的复杂性,那么该产品在实际应用中仍可能表现不佳。 Ambiq的 内部性能分析发现,即使在主要内核已完全优化后,围绕主要计算的操作——如填充、激活、归约和重塑——在实际工作负载中仍会消耗大量处理时间。 heliaCORE™ 针对的是整个管道,而不仅仅是基准测试所衡量的部分。
heliaCORE™ 是基础,是一个经过优化的内核层,其他一切都建立在此之上。 heliaRT™ 是使用AI Runtimes执行AI inference on-device heliaCORE 在底层支持下,在设备上执行 AI 推理的运行时路径。 heliaAOT™ 这是预编译器路径,在代码发布前就将其效率“预先烘焙”到代码中——同样由 heliaCORE提供支持。不妨将 heliaCORE 是引擎,而 heliaRT 和 heliaAOT 作为两种 不同的方式 来驱动它。
是的。 heliaCORE™ 既支持当前一代Apollo SoC的MVE加速,也支持上一代设备的DSP加速。两代产品均能得到全面支持。
两者都有。 heliaCORE™ 基于 Arm 的 CMSIS-NN(一个开放的、符合行业标准的生态系统)构建,并完全保留了其 API、文档和许可条款。针对 Apollo 的内核调优、扩展的操作符覆盖范围以及平台集成均 Ambiq 在此开放基础之上新增的功能。
heliaCORE 现已向 Ambiq 的客户和合作伙伴开放。相关文档和访问入口可通过 Ambiq 的 GitHub 页面 以及 www.ambiq.com/AI/heliaCORE获取。