heliacore bg mobile
heliacore bg desktopheliacore visual desktop scaled

heliaCORE 边缘AI优化内核

Ambiq AI 的内核加速

heliacore kv mobile

heliaCORE™ 是 Ambiq 为 Ambiq SPOT SoC 优化的神经网络内核层,通过高效的 AI Kernels 和全面的操作子加速功能,使开发人员能够在资源受限的边缘设备上快速将 AI 产品推向市场。 与 MLPerf Tiny 相比,它支持约 12 倍数量的操作子实例进行验证,覆盖了更多真实场景的 AI 工作负载。

heliaCORE 亮点

01

行业标准工作流程

heliaCORE 基于 Arm® CMSIS-NN 生态系统构建,确保与行业标准的嵌入式 AI 开发流程兼容。

02

广泛的现实世界AI验证

heliaCORE 通过验证超过 40 个 AI 模型、53 种操作员类型、247 个不同操作员以及 963 个操作员实例,有助于在超出典型基准测试条件的情况下提高部署的可预测性。

03

MVE 和 DSP 加速

针对 Arm Cortex-M 平台使用经过优化的 AI 工作负载,优先采用 heliaCORE Cortex-M55 的 MVE 加速功能,同时为不支持 MVE 的旧版 Apollo 硬件保留针对 DSP 优化的实现方案。

04

与 HELIA AI 无缝集成

通过统一的、针对芯片优化的内核平台降低了边缘AI部署的复杂性,该平台为heliaRT和heliaAOT提供支持,并兼容CMake、CMSIS-Pack、Zephyr和neuralSPOT-X工作流。

卷积与矩阵乘法核

该基准测试展示了heliaCORE在Apollo510(Cortex-M55)上通过标量参考、DSP和MVE执行路径所实现的性能。 由于这三条路径均在同一SoC上以相同的时钟频率运行,因此测试结果能够直观地对每条指令集架构(ISA)优化路径带来的性能提升进行“同等条件”下的直接比较。

HeliaCORE diagram desktop

为什么AI Kernels优化很重要

AI 性能不仅取决于模型架构。高效的内核实现有助于加速常见的 AI 运算,提高资源利用率,并降低软件集成的复杂性。对于在严格的内存和功耗限制下运行的边缘设备,经过优化的 AI Kernels 可帮助开发者获得更可预测的性能,同时加速生产就绪型 AI 应用程序的部署。

更多信息
AI Image

应用

Wearable Devices

可穿戴设备

Voice Assistant Speakers

音频与语音处理

Industrial Edge

工业监测

gaming console

Consumer Edge AI 产品

设计资源

heliaCORE Developer Hub - Explore step-by-step guides, hands-on examples, and performance benchmarks to kickstart heliaCORE integration.
Ambiq AI Hub - Dive into neuralSPOT® AI SDK & toolkit and our heartKIT, sleepKIT, and soundKIT ADKs

其他文档

  • 设置收藏夹
  • 获取更新通知
  • 使用搜索过滤器

视频库

hqdefault
hqdefault
hqdefault

常见问题解答

  • heliaCORE™ 是经过优化的内核基础。 heliaRT™ 是 Ambiq的 用于在设备上执行 AI 推理的运行时路径,作为 LiteRT 在使用时用于微控制器 API 的替代方案 heliaCORE 下面。 heliaAOT 是 Ambiq的 预编译器路径,支持 LiteRT 平面缓冲区 并生成优化后的代码,该代码同样依赖于 heliaCORE. 

  • 像Arm的CMSIS-NN这样的现有工具虽然提供了坚实的行业标准基础,但它们 并非 专为 Ambiq的 特定芯片或AI工作负载而设计的 Ambiq 客户 实际交付。 heliaCORE™ 该工具是在 CMSIS-NN 的基础上构建的,而非取代它,既保留了工程师们已经熟悉的 API 和文档,又增加了通用工具所缺乏的、针对 Apollo 的特定调优和覆盖范围。 哪些设备可以使用 heliaRT™?

  • 在 Ambiq 芯片上,此前都需要团队手动组装、集成和 优化 软件栈,往往需要数月时间才能开始任何实际的产品开发工作。 heliaCORE™ 提供的是预集成且预优化的基础架构,因此团队可以 立即 ,而无需重新构建基础设施 ——这些基础设施 已经构建的基础设施。 

  • MLPerf Tiny 是业界公认的边缘 AI, 它测试了5个模型和总计80项操作。 Ambiq 已通过 heliaCORE™ ,并将其与一套具有现场代表性的、包含40多个模型和963个操作实例的数据集进行验证, 约12 倍于行业基准测试的运行量。这一差距反映了基准测试内容与实际产品可运行内容之间的差异。 

  • 一款产品 仅针对 仅针对标准基准测试进行优化的产品,如果这些基准测试 未能 能反映生产环境的复杂性,那么该产品在实际应用中仍可能表现不佳。 Ambiq的 内部性能分析发现,即使在主要内核已完全优化后,围绕主要计算的操作——如填充、激活、归约和重塑——在实际工作负载中仍会消耗大量处理时间。 heliaCORE™ 针对的是整个管道,而不仅仅是基准测试所衡量的部分。 

  • heliaCORE™ 是基础,是一个经过优化的内核层,其他一切都建立在此之上。 heliaRT™ 是使用AI Runtimes执行AI inference on-device heliaCORE 在底层支持下,在设备上执行 AI 推理的运行时路径。 heliaAOT™ 这是预编译器路径,在代码发布前就将其效率“预先烘焙”到代码中——同样由 heliaCORE提供支持。不妨将 heliaCORE 是引擎,而 heliaRT 和 heliaAOT 作为两种 不同的方式 来驱动它。 

  • 是的。 heliaCORE™ 既支持当前一代Apollo SoC的MVE加速,也支持上一代设备的DSP加速。两代产品均能得到全面支持。 

  • 两者都有。 heliaCORE™ 基于 Arm 的 CMSIS-NN(一个开放的、符合行业标准的生态系统)构建,并完全保留了其 API、文档和许可条款。针对 Apollo 的内核调优、扩展的操作符覆盖范围以及平台集成均 Ambiq 在此开放基础之上新增的功能。 

  • heliaCORE 现已向 Ambiq 的客户和合作伙伴开放。相关文档和访问入口可通过 Ambiq 的 GitHub 页面 以及 www.ambiq.com/AI/heliaCORE获取。

准备下载