AI Runtimes

SPOT 经过调整的 AI 运行时间

SPOT 经过调整的软硬件协同作用，可在 Apollo 上实现超低功耗 AI。选择 heliaRT™ 可实现直接插入、向后兼容的速度提升；选择 heliaAOT™ 可实现编译时优化以及最小、最省电的构建。

heliaRT

heliaAOT

AI Runtimes 亮点

SPOT 调谐协同作用

与阿波罗芯片共同设计。内核优化、内存规划和数据流根据 SPOT 进行了调整，因此模型可以在实际设备上高效运行，而不仅仅是在基准测试中。

即插即用或拨号

选择 heliaRT 可实现与 TFLM 兼容的直接加速，选择 heliaAOT 则可实现编译时控制，并可调节大小、速度和功率。

更小的占地面积，更快的启动速度

heliaAOT 只发射模型所需的内容；heliaRT 与基线 TFLM 相比减少了开销。结果：精简二进制文件，快速启动，为功能提供更多空间。

每微安性能

SPOT 经过调校的运行时间可压缩延迟和内存，同时最大限度地降低能耗，因此实时 AI 可在电池电量充足的情况下轻松运行，非常适合可穿戴设备、健康和智能音频。

AI 运行时间比较

方面

TFLM

heliaRT（优化的 TFLM）

heliaAOT（超前）系统

主要适合

便携式基线
微干扰

即插即用、经过阿波罗调谐的
升级版

最高效率和
生产控制

Apollo 上的性能

良好基线

通过 SPOT 调整的
内核和规划，速度更快

最快通过编译-
时间
专业化/融合

内存占用

中度口译员 +OPS

比 TFLM 更精简

最小--只排放
模型所需的信息

部署和
更新

在运行时加载 .tflite；
非常容易交换

相同的 .tflite 流程；
与 TFLM 向后兼容

已编译神器
(C/obj/bin)；更新
需要重建

成熟/"经受过战斗
的考验"

最高（广泛使用）

高（生产-
在阿波罗号上淬火）

较新（快速
成熟）

操作和 d 型
覆盖范围

广泛操作；
int8/int16/int32

广泛操作；
int8/int16/int32（兼容 TFLM-
）

集中操作；
int8/int16（无 int32）

优化
控制

有限运行时间旋钮

Apollo感知规划器
和调整内核

控制最多：
大小/速度/功率，
布局/时间表

最适合

快速原型和便携性

频繁刷新
型号的产品

锁定的 SKU
，具有严格的延迟、
内存、能源
目标