因此，在我之前的文章中， 我討論了我們如何擁有三個強大的順風遇到三個令人生畏的逆風 ——這對邊緣人工智慧意味著什麼？在所有這些反作用中，一個理智的水手會告訴你留在港口，但那又有什麼樂趣呢？它確實使預測趨勢變得困難，儘管還不足以至於我不願意冒險通過嘗試來出醜。
隱形 AI 改進功能
預測 1：調整邊緣設備內部功能的新型“隱形”模型將激增。
鑑於我們上面討論的限制，人工智慧在邊緣可以做的少數事情足夠受歡迎，足以鼓勵投資，例如簡單（但聰明）的 語音辨識、音訊和影像分類、活動和健康監測以及工業感測器監控。
還有許多 AI 能做的事情，最終使用者只能部分看到。 比如 AI 可以偵測你所在的房間類型，並利用這些來更有效地調整電話中的降噪效果。 T來電者只有在音質良好的情況下才會注意到通話，卻不知道有 AI 介入。 許多這類「近物理」模型不需要龐大的資料集——取而代之的是，模擬、強化學習，以及零樣本或少數樣本學習等技術可用來訓練模型。
人工智慧模型不斷改進
預測二：現有模型將繼續改進和添加功能。
如我前面提到的，大多數現有型號在感測器可推導的資訊上都留下了許多細節。 例如，你可以從一個人 的步態 中看出很多健康狀況——平衡度、偏好的走路風格等等。 大多數模型不會嘗試這樣做，因為資料集目前還不存在，但 資料 已經存在。 每個佩戴智慧手錶的人都是潛在的數據來源，而手錶製造商只需收集其中一小部分數據，就能建立出驚人的數據集。 關鍵在於找到願意自願提供資料的人，目前一些大型製造商確實這麼做。
什麼是邊緣人工智慧？
通常，當使用者在消費性、工業及資安裝置中與 AI 互動時，只有一小部分 AI 處理在本地完成，而「繁重工作」則交由雲端處理。 這並不理想，因為來回傳送大量資料會消耗能量、增加延遲，並可能暴露私人資料。
Edge AI 就是用來解決這些問題的。 它指的是完全本地運行於嵌入式系統上的人工智慧，無需持續與雲端通訊，節省電力與時間，同時提升隱私與安全性。 Ambiq 低功耗意味著更多 AI 可以在本地執行，同時不影響電池續航。
我經常寫過推動邊緣人工智慧提升到新層次的順風，稍後我會再談談。 不過，了解它所面臨的逆風也很重要。 潛在威脅與機會的結合，使邊緣人工智慧處於混亂且非線性的狀態，某些領域進展顯著，另一些則較少。
更有效率的人工智慧部署
預測 3：2023 年將看到高效 AI 運行時的成熟和採用。
AI 透過「執行時」在裝置上執行——一段理解模型定義並在裝置上執行的程式碼。 最受歡迎的執行環境是「Tensorflow Lite for Microcontrollers」（TLFM）。TLFM 是讓模型在裝置上運行的好方法，因為它擁有龐大的開發者生態系可供查詢和支援，且有許多相關工具。 可惜的是，與優秀的程式設計師手工製作的效率不高（例如 Ambiq® 為我們的語音辨識模型集合 NNSP 所做的）。TLFM 會消耗更多記憶體與運算，導致使用率、延遲與記憶體佔用量增加。 不過手動寫 AI 模型很*難*，所以開發者通常會堅持用 TFLM。
不過，有一條中間路線：將 AI 模型轉換成像 C 這類「可編譯」語言的工具。 這些系統結合高效的執行時，能以遠快於 TFLM 的模型執行速度。 目前有少數此類解決方案，但沒有哪一種像 TFLM 那樣被廣泛採用或獲得廣泛支持。
結論
為你的邊緣產品加入 AI 功能是一種權衡的過程——AI 以資源密集型著稱，消耗大量的 CPU 運算、記憶體和電力。 在 Ambiq，我們對能源效率非常著迷，而這份執著也帶來了業界領先的節能 CPU 推論基準測試結果，遠遠領先。 我們刻意打造硬體與軟體，協同運作，以達到最佳效果，平衡準確度、效能與功耗，以符合任何邊緣裝置的 AI 需求。
Ambiq 透過推動超低功耗創新，已成為全球最受矚目的人工智慧（AI）技術公司之一。 2022 年 7 月，Ambiq 推出 neuralSPOT® ，旨在在電池電力限制下實現電子裝置的人工智慧。 過去因耗電需求而無法實現的物聯網邊緣裝置，現在已具備高效能 AI 能力，包括語音辨識、活動偵測及即時分析。
neuralSPOT 包括將 AI 模型引入 Ambiq 平台所需的一切，例如最新的 Apollo4 Plus 和 Blue Plus SoC。此 SDK 包含用於與感測器通訊的程式庫、SoC 周邊裝置管理、電源和記憶體控制配置、可從任何筆記型電腦或 PC 輕鬆偵錯 AI 模型的工具，以及將它們連結在一起的範例。
由於模型是 AI 的核心，為了讓實用的邊緣 AI 成為可能，Ambiq 也創建 了 ModelZoo，一個開源的邊緣 AI 模型集合，並附有從零開始開發模型所需的所有工具。 有函式庫可以與感測器通訊、管理 SoC 周邊設備、控制電源與記憶體配置、輕鬆從筆電或電腦除錯模型的工具，以及將這些整合起來的範例。 neuralSPOT 包含專為 Ambiq 設計的嵌入式函式庫，涵蓋音訊、i2c 及 USB 周邊設備、電源管理，以及多種輔助功能，如程序間通訊與記憶體管理。 首次，一個簡單卻優雅的工具能賦能不同角色的 AI 開發者，包括資料專家、人工智慧專家及應用專家。
欲了解更多資訊，請造訪 Ambiq AI – Ambiq Supercharging edge AI
