AI 執行時

即時調整 AI 執行環境

SPOT 調整硬體與軟體的協同效應,在 Apollo 上實現超低功耗 AI。選擇 heliaRT™ 可獲得隨插即用、向下相容的速度提升;選擇 heliaAOT™ 可獲得編譯時 最佳化以及最小、最省電的建置。

AI 執行時亮點

01

點調協同

與 Apollo 矽晶共同設計。內核最佳化、記憶體規劃和資料流調整至 SPOT,因此模型可在真實裝置上有效率地執行,而不只是在基準測試中。

02

即插式或調整式

選擇 heliaRT 可獲得相容於 TFLM 的隨插即用加速功能,或選擇 heliaAOT 可獲得編譯時控制功能,並可調整大小、速度和功率。

03

佔地面積較小,起步更快

heliaAOT 只排放您的模型所需的內容;heliaRT 相較於基準 TFLM 減少開銷。結果:精簡的二進位檔、快速的初始化、更多的功能空間。

04

每微安培的性能

SPOT 調整過的運行時間可壓縮延遲和記憶體,同時將耗電量降至最低,因此即時 AI 運行起來非常省電,非常適合穿戴式裝置、健康產品和智慧音訊。

AI 執行時間比較

相位
TFLM
heliaRT(優化 TFLM)
heliaAOT(時間領先)
主要配合
可攜式基線
微推論
可直接安裝、阿波羅調校
升級
最高生產效率與控制
在阿波羅計畫上的
表現
良好的基準
透過 SPOT 調校
的核心與規劃更快
透過編譯時最快
專門化/融合
記憶體足跡
中等直譯器 +ops
比TFLM更精簡
最小——只
輸出模型所需的能量
部署與
更新
執行時載入 .tflite;
非常簡單的交換
同樣的 .tflite 流程;
向下相容
於 TFLM
編譯出的工件
(C/obj/bin);更新
需重建
成熟度 / 「經過戰鬥
測試」
最高(廣泛使用)
High(Apollo 的生產
強化)
較新(快速成熟)
操作與 dtype
覆蓋
廣泛作戰;
int8/int16/int32
Broad ops;
int8/int16/int32 (TFLM 相容)
集中作業;
int8/int16 (無 int32)
最佳化
控制
有限的運行旋鈕
Apollo-aware planners
& tuned kernels
最關鍵的控制:
大小/速度/功率、
佈局/排程
最適合
快速原型製作與可攜性
經常更新
型號的產品
鎖定 SKU
嚴格的延遲、
記憶體、能源目標

影像資料庫

準備下載