“只有江湖騙子和傻瓜才能預測未來，只有傻子才能確定。” – 可能是某個聰明人
預測未來往往是一件傻事，尤其是在科技和人工智慧等高度動態的領域。牢記這一點，請溫柔地對待我，因為我在對 2023 年的邊緣人工智慧做出一些預測時盡量不要出醜。在我們深入探討我 將在下一篇文章中討論的預測之前，通過了解當今行業的情況來了解一些背景信息會很有用。
邊緣人工智慧的現狀
我經常寫過推動邊緣人工智慧提升到新層次的順風，稍後我會再談談。 不過，了解它所面臨的逆風也很重要。 潛在威脅與機會的結合，使邊緣人工智慧處於混亂且非線性的狀態，某些領域進展顯著，另一些則較少。
順風
讓我們從推動邊緣人工智慧創新的三大趨勢開始：人工智慧研究的新焦點、社區參與和技術突破。人工智慧大約 300,000 萬篇研究論文中的大部分傳統上都集中在以訓練和優化超大型模型為中心的主流人工智慧創新。近年來，少數研究人員意識到“小即是美”，從而在 模型效率 方面取得了突破，這將促進人工智能在邊緣物聯網電子設備上運行。同時， Ambiq 的 SPOT® 平台等技術突破使新創公司和開發人員能夠發現實際邊緣用例的新應用。這些最近的發展幫助生產了一些真正令人驚嘆的產品，這些產品具有消費者開始認為理所當然的智能。「我的手錶知道我在橢圓機上」從「哇！」到「當然，確實如此」的速度令人印象深刻。
逆風
不過，並非一切都是彩虹和獨角獸：邊緣人工智慧也必須應對一些阻力，包括記憶體限制、感測器類型稀缺以及資料集的可用性。讓我們從記憶開始檢查其中的每一個。
記性
邊緣人工智慧運行於嵌入式裝置上，雖然運算與運算創新迅速進步，記憶體的進步卻相當線性（這是整體趨勢，並非嵌入式裝置特有）。AI 計算非常耗用記憶體，涉及將龐大的數字陣列乘以感測器捕捉的幾乎同等龐大的資料量。 模型越複雜，所需的記憶體也越多——例如，知名的 AI 應用 ChatGPT 和 Midjourney 需要 GB 記憶體，是 邊緣裝置的數千倍。 在邊緣 AI 領域，有幾種方法可以減輕這個問題：我們可以犧牲一些準確度，或降低模型的複雜度（例如，模型可能只識別較少類型的健身活動）。AI 設計師也可以利用我們前面提到的一些研究，這些研究多半著重於打造更密集、更緊湊的模型，同時犧牲較低的準確度或能力。
資料集
資料集的可用性也是另一個限制。 AI 依賴（大量且大量的）資料來訓練模型。 小數據集與大數據集，分別是能「某種程度上」偵測你是否在做仰臥起坐，還是能偵測任何體型、各種體能水平的仰臥起坐風格。 產出資料集既繁瑣又昂貴，公開 資料集尤其罕見，尤其是在嵌入式領域。 例如，一個「仰臥起坐」資料集需要數百人在佩戴資料擷取裝置的情況下做數千次仰臥起坐。 過去十年，業界拼湊出少數公開資料集（例如利用公有領域書籍作為機器翻譯 AI 的訓練材料），涵蓋語音、音訊和影像等有限但熱門的領域。 這種方法尚未廣泛應用於專門針對邊緣 AI 的數據。 邊緣 AI 的潛力大多集中在隱私敏感的醫療與健身追蹤應用上，這也讓收集資料變得更加困難。
最後， 邊緣人工智慧與「主流」人工智慧有顯著差異 ，因為它 與實體世界互動密切。 典型的 AI 主要處理文字、圖片和音訊，而邊緣 AI 則嵌入於現實世界，透過感知 陀螺儀、加速度計、攝像頭、麥克風和生物傳感器。 這加劇了我們前面提到的資料集問題（影像就是影像，但有許多加速度計，雖然測量的是同一東西，卻各有不同）。同時，邊緣人工智慧依賴邊緣感測器，意味著目前AI能做的事情有限——AI從加速度計推斷的有限，儘管我們還遠未用盡所有可能性。 新穎的感測器正在推出，但這些感測器將正面撞上我們前面提到的資料集問題，導致 AI 採用速度放緩。
權衡練習
在你的邊緣產品中加入 AI 功能是一種權衡的考驗——AI 以資源密集著稱，消耗大量的 CPU 週期、記憶體和電力。 在 Ambiq，我們對能源效率非常著迷，而這份執著也帶來了業界領先的節能 CPU 推論基準測試結果，遠遠領先。 我們刻意打造硬體與軟體，協同運作，以達到最佳效果，平衡準確度、效能與功耗，以符合任何邊緣裝置的 AI 需求。
Ambiq 透過推動超低功耗創新，已成為全球最受矚目的人工智慧（AI）技術公司之一。 2022 年 7 月，Ambiq 推出 neuralSPOT® ，旨在在電池電力限制下實現電子裝置的人工智慧。 過去因耗電需求而無法實現的物聯網邊緣裝置，現在已具備高效能 AI 能力，包括語音辨識、活動偵測及即時分析。
neuralSPOT 包括將 AI 模型引入 Ambiq 平台所需的一切，例如最新的 Apollo4 Plus 和 Blue Plus SoC。此 SDK 包含用於與感測器通訊的程式庫、SoC 周邊裝置管理、電源和記憶體控制配置、可從任何筆記型電腦或 PC 輕鬆偵錯 AI 模型的工具，以及將它們連結在一起的範例。
由於模型是 AI 的核心，為了讓實用的邊緣 AI 成為可能，Ambiq 也創建 了 ModelZoo，一個開源的邊緣 AI 模型集合，並附有從零開始開發模型所需的所有工具。 有函式庫可以與感測器通訊、管理 SoC 周邊設備、控制電源與記憶體配置、輕鬆從筆電或電腦除錯模型的工具，以及將這些整合起來的範例。 neuralSPOT 包含專為 Ambiq 設計的嵌入式函式庫，涵蓋音訊、i2c 及 USB 周邊設備、電源管理，以及多種輔助功能，如程序間通訊與記憶體管理。 首次，一個簡單卻優雅的工具能賦能不同角色的 AI 開發者，包括資料專家、人工智慧專家及應用專家。 欲了解更多資訊，請造訪 Ambiq AI – Ambiq Supercharging edge AI
