heliaCORE 邊緣 AI 優化核心
Ambiq AI 的核心加速技術
heliaCORE™ 是 Ambiq 針對 Ambiq SPOT SoC 所優化的神經網路核心層,透過高效能的 AI 核心與廣泛的運算子加速功能,讓開發者能夠在資源受限的邊緣裝置上,快速將 AI 產品推向市場。 其支援的運算子實例數量約為 MLPerf Tiny 的 12 倍,涵蓋更多真實世界的 AI 工作負載。

heliaCORE™ 是 Ambiq 針對 Ambiq SPOT SoC 所優化的神經網路核心層,透過高效能的 AI 核心與廣泛的運算子加速功能,讓開發者能夠在資源受限的邊緣裝置上,快速將 AI 產品推向市場。 其支援的運算子實例數量約為 MLPerf Tiny 的 12 倍,涵蓋更多真實世界的 AI 工作負載。
此基準測試透過標量參考、DSP 及 MVE 執行路徑,展示了 heliaCORE 在 Apollo510(Cortex-M55)上的效能。 由於這三條執行路徑皆在同一款 SoC 上以相同的時脈速度運作,因此這些結果能提供直接且公允的「同條件比較」,用以評估各 ISA 優化路徑所帶來的效能提升。
AI 效能不僅取決於模型架構。高效的內核實作有助於加速常見的 AI 運算、提升資源利用率,並降低軟體整合的複雜性。對於在嚴格的記憶體與功耗限制下運作的邊緣裝置,經過優化的 AI 內核能協助開發者獲得更可預測的效能,同時加速部署可投入生產的 AI 應用程式。
閱讀更多
穿戴式裝置
音訊與語音處理
工業監測
Consumer Edge AI 產品
heliaCORE Developer Hub – Explore step-by-step guides, hands-on examples, and performance benchmarks to kickstart heliaCORE integration.
Ambiq AI Hub – Dive into neuralSPOT® AI SDK & toolkit and our heartKIT, sleepKIT, and soundKIT ADKs
heliaCORE Developer Hub – Explore step-by-step guides, hands-on examples, and performance benchmarks to kickstart heliaCORE integration.
Ambiq AI Hub – Dive into neuralSPOT® AI SDK & toolkit and our heartKIT, sleepKIT, and soundKIT ADKs
像 Arm 的 CMSIS-NN 這樣的現有工具,雖提供了堅實的產業標準基礎,但它們 並非 專為 Ambiq 的 特定晶片或 AI 工作負載 Ambiq 客戶 實際交付。 heliaCORE™ 本工具是基於 CMSIS-NN 建構,而非取代它,既保留了工程師已熟悉的 API 和文件,同時也增添了通用工具所缺乏的 Apollo 專屬調校與涵蓋範圍。 哪些裝置可以使用 heliaRT™?
在 Ambiq 晶片上啟動的每個新邊緣 AI 專案,過去都要求團隊必須手動組裝、整合並 優化 軟體堆疊,往往需耗時數月才能展開實際的產品開發工作。 heliaCORE™ 則提供已預先整合且預先優化的基礎架構,讓團隊能 , ,無需重新建構基礎架構 , 已建置的基礎架構。
MLPerf Tiny 是業界用於邊緣 AI 的業界標準基準測試, 它測試 5 種模型及總計 80 項運算。 Ambiq 已通過驗證 heliaCORE™ ,並以一套具現場代表性的測試集進行驗證,該測試集包含 40 多個模型及 963 個操作員實例, 約為 倍。此差距反映了基準測試所涵蓋的範圍與實際產品所能執行的內容之間的差異。
一款產品 若僅針對 僅針對標準基準測試進行優化的產品,若這些基準測試 未能 反映實際運作的複雜性,那麼在真實環境中表現仍可能不佳。 Ambiq 的 內部效能分析發現,即使主要運算核心已完全優化,圍繞主要運算的操作——包括填充、活化、縮減與重塑——在實際工作負載中仍會消耗大量處理時間。 heliaCORE™ 能全面優化整個處理管線,而不僅限於基準測試所測量的部分。
heliaCORE™ 是基礎,一個經過優化的核心層,所有其他部分皆建基於此。 heliaRT™ 是使用 heliaCORE 在後端支援下於裝置上執行 AI 推論的執行時路徑。 heliaAOT™ 這是預編譯器(Ahead-of-Time)的途徑,能在程式碼發佈前就將效率預先嵌入其中——同樣由 heliaCORE所驅動。不妨將 heliaCORE 為引擎,而 heliaRT 與 heliaAOT 作為兩種 不同的方法 來驅動它。
是的。 heliaCORE™ 同時具備針對當代 Apollo SoC 的 MVE 加速功能,以及針對前代裝置的 DSP 加速功能。無論哪一代裝置,皆能獲得支援。
兩者皆是。 heliaCORE™ 是基於 Arm 的 CMSIS-NN —— 一個開放的產業標準生態系統 —— 所建構,並完全保留其 API、文件及授權條款。針對 Apollo 的核心調校、擴展的運算子支援範圍以及平台整合,均 Ambiq 在此開放基礎之上所新增的功能。
heliaCORE 現已向 Ambiq 的客戶與合作夥伴開放。相關文件與存取方式可透過 Ambiq 的 GitHub 頁面 以及 www.ambiq.com/AI/heliaCORE取得。