heliacore bg mobile
heliacore bg desktopheliacore visual desktop scaled

heliaCORE 邊緣 AI 優化核心

Ambiq AI 的核心加速技術

heliacore kv mobile

heliaCORE™ 是 Ambiq 針對 Ambiq SPOT SoC 所優化的神經網路核心層,透過高效能的 AI 核心與廣泛的運算子加速功能,讓開發者能夠在資源受限的邊緣裝置上,快速將 AI 產品推向市場。 其支援的運算子實例數量約為 MLPerf Tiny 的 12 倍,涵蓋更多真實世界的 AI 工作負載。

heliaCORE 重點介紹

01

業界標準的工作流程

heliaCORE 基於 Arm® CMSIS-NN 生態系統建構,確保與業界標準的嵌入式 AI 開發流程相容。

02

廣泛的實務人工智慧驗證

heliaCORE 透過驗證超過 40 種 AI 模型、53 種運算子類型、247 種不同運算子以及 963 個運算子實例,協助提升部署的可預測性,其範圍更超越了典型的基準測試條件。

03

MVE 與 DSP 加速

針對 Arm Cortex-M 平台採用最佳化的 AI 工作負載,優先採用 heliaCORE Cortex-M55 的 MVE 加速功能,同時針對未支援 MVE 的舊版 Apollo 硬體,維持其 DSP 最佳化實作。

04

與 HELIA AI 無縫整合

透過統一且針對矽晶片進行優化的核心平台,大幅降低邊緣 AI 部署的複雜性,該平台為 heliaRT 和 heliaAOT 提供動力,並支援 CMake、CMSIS-Pack、Zephyr 以及 neuralSPOT-X 工作流程。

卷積與矩陣乘法核函數

此基準測試透過標量參考、DSP 及 MVE 執行路徑,展示了 heliaCORE 在 Apollo510(Cortex-M55)上的效能。 由於這三條執行路徑皆在同一款 SoC 上以相同的時脈速度運作,因此這些結果能提供直接且公允的「同條件比較」,用以評估各 ISA 優化路徑所帶來的效能提升。

HeliaCORE diagram desktop

為何人工智慧核心優化至關重要

AI 效能不僅取決於模型架構。高效的內核實作有助於加速常見的 AI 運算、提升資源利用率,並降低軟體整合的複雜性。對於在嚴格的記憶體與功耗限制下運作的邊緣裝置,經過優化的 AI 內核能協助開發者獲得更可預測的效能,同時加速部署可投入生產的 AI 應用程式。

閱讀更多
AI Image

應用

Wearable Devices

穿戴式裝置

Voice Assistant Speakers

音訊與語音處理

Industrial Edge

工業監測

gaming console

Consumer Edge AI 產品

設計資源

heliaCORE Developer Hub – Explore step-by-step guides, hands-on examples, and performance benchmarks to kickstart heliaCORE integration.
Ambiq AI Hub – Dive into neuralSPOT® AI SDK & toolkit and our heartKIT, sleepKIT, and soundKIT ADKs

其他文檔

  • 設置收藏夾
  • 取得更新通知
  • 使用搜尋過濾器

影片庫

hqdefault
hqdefault
hqdefault

常見問題

  • heliaCORE™ 是經過優化的核心基礎架構。 heliaRT™ 是 Ambiq 的 用於在裝置上執行 AI 推論的執行時路徑,作為一個 LiteRT 用於在使用微控制器 API 時進行替換 heliaCORE 在下面。 heliaAOT 是 Ambiq 的 預編譯器路徑,接受 LiteRT 平面緩衝區 並產生優化後的程式碼,該程式碼同樣依賴於 heliaCORE. 

  • 像 Arm 的 CMSIS-NN 這樣的現有工具,雖提供了堅實的產業標準基礎,但它們 並非 專為 Ambiq 的 特定晶片或 AI 工作負載 Ambiq 客戶 實際交付。 heliaCORE™ 本工具是基於 CMSIS-NN 建構,而非取代它,既保留了工程師已熟悉的 API 和文件,同時也增添了通用工具所缺乏的 Apollo 專屬調校與涵蓋範圍。 哪些裝置可以使用 heliaRT™?

  • 在 Ambiq 晶片上啟動的每個新邊緣 AI 專案,過去都要求團隊必須手動組裝、整合並 優化 軟體堆疊,往往需耗時數月才能展開實際的產品開發工作。 heliaCORE™ 則提供已預先整合且預先優化的基礎架構,讓團隊能 , ,無需重新建構基礎架構 , 已建置的基礎架構。 

  • MLPerf Tiny 是業界用於邊緣 AI 的業界標準基準測試, 它測試 5 種模型及總計 80 項運算。 Ambiq 已通過驗證 heliaCORE™ ,並以一套具現場代表性的測試集進行驗證,該測試集包含 40 多個模型及 963 個操作員實例, 約為 倍。此差距反映了基準測試所涵蓋的範圍與實際產品所能執行的內容之間的差異。 

  • 一款產品 若僅針對 僅針對標準基準測試進行優化的產品,若這些基準測試 未能 反映實際運作的複雜性,那麼在真實環境中表現仍可能不佳。 Ambiq 的 內部效能分析發現,即使主要運算核心已完全優化,圍繞主要運算的操作——包括填充、活化、縮減與重塑——在實際工作負載中仍會消耗大量處理時間。 heliaCORE™ 能全面優化整個處理管線,而不僅限於基準測試所測量的部分。 

  • heliaCORE™ 是基礎,一個經過優化的核心層,所有其他部分皆建基於此。 heliaRT™ 是使用 heliaCORE 在後端支援下於裝置上執行 AI 推論的執行時路徑。 heliaAOT™ 這是預編譯器(Ahead-of-Time)的途徑,能在程式碼發佈前就將效率預先嵌入其中——同樣由 heliaCORE所驅動。不妨將 heliaCORE 為引擎,而 heliaRT 與 heliaAOT 作為兩種 不同的方法 來驅動它。 

  • 是的。 heliaCORE™ 同時具備針對當代 Apollo SoC 的 MVE 加速功能,以及針對前代裝置的 DSP 加速功能。無論哪一代裝置,皆能獲得支援。 

  • 兩者皆是。 heliaCORE™ 是基於 Arm 的 CMSIS-NN —— 一個開放的產業標準生態系統 —— 所建構,並完全保留其 API、文件及授權條款。針對 Apollo 的核心調校、擴展的運算子支援範圍以及平台整合,均 Ambiq 在此開放基礎之上所新增的功能。 

  • heliaCORE 現已向 Ambiq 的客戶與合作夥伴開放。相關文件與存取方式可透過 Ambiq 的 GitHub 頁面 以及 www.ambiq.com/AI/heliaCORE取得。

準備下載