heliaProfiler bg mobile
heliaProfiler bg desktopheliaProfiler visual desktop scaled

heliaPROFILER: 面向边缘 AI 的周期精确性能分析

专为 Ambiq AI 打造的特征分析

heliaProfiler kv mobile

heliaPROFILERS™ 是 Ambiq 面向 HELIA™ AI 生态系统推出的开源性能分析工具,可为开发人员提供关于 AI 模型在 Apollo SoC 上运行情况的周期级精确分析。只需一条命令,即可完成构建、烧录,并生成关于性能、内存和能效的报告,从而帮助团队更快地优化边缘 AI 模型。

01

执行引擎的选择

通过相同的工作流,将同一模型与标准 TFLM、heliaRT™ 或 heliaAOT™ 进行对比分析,从而轻松直观地了解 Ambiq 的优化运行时和编译器相较于基线模型究竟带来了多少性能提升。

02

端到端自动化性能分析

heliaPROFILERS 仅需一条 hpx profile 命令,即可运行完整的处理流程——包括构建、闪存、捕获和生成报告,从而取代了零散的手动操作。

03

编译器和工具链的灵活性

heliaPROFILERS 支持 GCC、Arm 嵌入式编译器 (ACfE) 以及 Arm 嵌入式工具链 (ATfE),使开发人员能够通过统一的工作流程比较不同工具链的配置。

04

每次推理的功和能量

可选的 Joulescope 集成功能可按每次推理为单位测量功耗和能耗,从而为开发者提供了一种直接评估能效与电池续航时间权衡关系的方法。

每个阶段的优化

heliaProfilers 支持完整的 Apollo 平台,涵盖支持 DWT 循环计数的 Apollo 3 和 4,以及 Apollo510 上对 Armv8-M PMU 的完全访问。 基于 YAML 的配置使性能分析运行可重现,内存布局可在每次运行时进行配置,而内置的结果比较功能可捕获 CI/CD 管道中的退化问题,因此性能分析能够支持您从开发到部署的整个工作流。各层指标还会以 JSON 叠加层的形式导出至 Google 的 Model Explorer,让您能够一目了然地识别热点运算符。

设计资源

heliaPROFILER 开发者中心- 探索分步指南、实践示例和性能基准,快速启动 heliaPROFILER 集成。
Ambiq AI Hub - 深入了解 neuralSPOT® AI SDK 和工具包以及我们的 heartKIT、sleepKIT 和 soundKIT ADK

其他文档

  • 设置收藏夹
  • 获取更新通知
  • 使用搜索过滤器

视频库

hqdefault
hqdefault
hqdefault

常见问题解答

  • heliaPROFILER™ 是 Ambiq的 一款开源性能分析工具,专为在Apollo SoC上运行的AI模型设计。它能让开发者以时钟周期级别的精度,清晰了解模型实际 在 硬件上的实际执行情况,提供精确到时钟周期的可视化分析,涵盖时钟周期数、指令数、缓存统计信息以及各层的PMU细分数据,所有这些信息均可通过一条命令获取。

  • 在嵌入式硬件上对 AI 工作负载进行性能分析,通常意味着需要使用零散的工具并进行手动分析,这会减缓 优化 工作。 heliaPROFILER™ 将 该过程整合为单一的自动化工作流,从而使开发人员能够 识别 瓶颈并比较优化策略,而无需自行拼凑工具。

  • 开发边缘AI的团队通常 无法 在不进行大量手动插码的情况下,无法判断性能问题究竟出在模型、运行时、编译器还是硬件上。 heliaPROFILER™ 通过对标准 TFLM 进行性能分析,并结合 heliaRT™ 和 heliaAOT™通过相同的工作流程进行对比分析,因此开发人员可以准确了解Ambiq的优化在哪些环节发挥 通过相同的工作流程,因此开发人员可以准确了解 Ambiq 的优化在哪些方面发挥了作用,并能将时间用于 优化 ,而非构建性能分析基础设施。

  • 这意味着 heliaPROFILERS™ 能够测量 实际发生的情况 ,而非估算值。该工具利用Apollo510上的PMU计数器以及早期Apollo硬件上的DWT周期计数器,逐层报告模型实际消耗的周期数、指令数和缓存事件数。

  • heliaRT™ 和 heliaAOT™ 在 Ambiq 硬件上运行 AI 推理有两种方法, 于e 作为一则ntim简体中文(大陆)e interpreter 和一个作为提前编译器的。 heliaPROFILERS™ 不 运行 inf简体中文(大陆)erence简体中文(大陆) itsel简体中文(大陆)f, 就是我a确保模型在标准TFLM下的表现, heliaRT,或 heliaAOT, so devel简体中文(大陆)运营商可以对这三种方案进行比较并做出选择 钻井平台ht 路径为r 他们的r 应用程序.

  • 是的。 heliaPROFILER™ 内置了Apollo 3、4和5的平台定义,在Apollo 510上提供对Armv8-M PMU的完全访问权限,并在Apollo 3和4上支持基于DWT的周期计数。

  • 是的。 heliaPROFILER™ s支持 GCC、Arm嵌入式编译器(ACfE)以及Arm嵌入式工具链(ATfE),因此开发人员可以在 同一模式,从而通过一致的工作流程对同一模型进行性能分析,而无需为每次比较都重新构建环境。

  • 搭配可选的 Joulescope 集成后, heliaPROFILERS™ 可以每次推理为单位测量功耗和能耗,而不仅仅是原始电流和电压。这使开发者能够直接在模型层面上了解能耗成本,从而更轻松地在开发阶段评估电池续航时间的权衡,而非在部署后才发现这些问题。

  • 不。基于 YAML 的配置使得性能分析运行 具有可重现性, 每次运行均可配置内存布局,且内置的结果比较功能支持在 CI/CD 管道中捕获回归问题。这使得 heliaPROFILERS™ 非常适合在整个项目周期中进行持续优化和回归测试,而不仅仅是 初始 性能检查。

  • heliaPROFILER™ 现已通过 Ambiq的 GitHub 页面上获取。相关文档、入门指南以及完整的命令参考请访问 heliaPROFILERS 开发者中心获取。

准备下载