• 產品
  • 應用
  • 技術
  • 工具
  • 關於我們
  • 什麼是邊緣人工智慧?

    邊緣人工智慧是指部署在資源受限設備上的神經網路模型,這些模型無需雲連接即可即時執行智慧功能,例如過濾數據和識別感興趣的事件。

    將 AI 釋放到邊緣

    邊緣人工智慧 (AI) 是指將 AI 模型和演算法直接部署在邊緣功率受限的本地裝置上,而不是在集中式雲環境中。

    雖然像 ChatGPT 這樣基於雲的人工智慧平臺自 2022 年以來一直備受關注,但一場更安靜但同樣具有變革性的革命正在展開——邊緣人工智慧。隨著設備變得更加先進和多功能,人工智慧必須超越基於雲的實施,才能在計算和能源資源有限的環境中蓬勃發展。

    邊緣人工智慧將邊緣計算與人工智慧相結合,使設備能夠直接在本地硬體上執行機器學習任務,而無需依賴雲處理。這些智慧設備可以在沒有持續互聯網連接的情況下即時分析數據,這代表了傳統基於雲的人工智慧實施的重大轉變。

    人們越來越期望人工智慧能夠以實用且有意義的方式在他們身在何處——而不僅僅是在家裡或辦公桌後面。邊緣人工智慧市場反映了這一需求,預計到 2030 年將達到 664.7 億美元,為早期採用者創造了巨大的市場機會。

    Ambiq 革命性的亞閾值功耗優化技術 (SPOT)® 平台正在加速這一轉變,為以前無法實現傳統 AI 實施的設備提供超低功耗、高性能的 AI 功能。

    雲人工智慧和邊緣人工智慧之間的區別

    當捕獲和處理發生在收集數據的源而不是集中式雲環境中時,邊緣 AI 提供了重要的機會。

    雲人工智慧

    推理發生在這裡

    邊緣人工智慧

    推理發生在這裡

    邊緣人工智慧的好處:

    • 減少即時分析的延遲
    • 增強的可靠性
    • 加強隱私和安全
    • 降低運營成本
    • 延長電池壽命

    邊緣人工智慧的好處包括:

    • 減少即時分析的延遲

      直接在設備上處理數據消除了網路傳輸延遲,從而能夠對時間敏感的應用進行即時分析

    • 增強的可靠性

      邊緣人工智慧解決方案獨立於互聯網連接運行,即使在頻寬有限的環境中或網路中斷期間也能保持功能。

    • 加強隱私和安全

      健康數據等敏感資訊保留在本地設備上,從而顯著減少了可能損害使用者隱私的網路漏洞或雲數據洩露的風險

    • 降低
      運營成本

      減少對雲基礎設施進行日常處理任務的依賴可以幫助組織大幅降低數據傳輸費用、雲計算成本和存儲費用。

    • 延長電池壽命

      數據傳輸是行動裝置最耗電的作之一。本地處理數據可顯著降低能耗,延長設備電池壽命

    邊緣人工智慧的應用

    邊緣人工智慧的普及擴展到許多設備和應用,包括個人設備、醫療和保健、智慧家居和建築、工業邊緣、汽車等。

    $12B 邊緣人工智慧市場現在蓬勃發展

    按終端市場劃分的預計市場規模 ($B)

     
    $5.8$2.5$3.7$0.9

    2023

     
    $4.7$2.7$4.0$0.7

    2024

     
    $5.9$3.2$4.0$0.8

    2025

    CAGR 2023-28

    Ambiq, Inc. 根據 Gartner 研究創建的圖表。由 Ambiq, Inc. 進行的計算資料來源:Gartner,預測:半導體和電子,全球,2022-2028 年,第 4 季度 24 年更新,Rajeev Rajput 等人,2024 年 12 月 16 日收入基礎。

    關於邊緣人工智慧的常見問題

    • 自 2010 年以來,Ambiq 專有的 SPOT® 平臺重新定義了邊緣的可能性。通過提供前所未有的能源效率,SPOT 使製造商能夠直接在邊緣設備上部署複雜的人工智慧模型——這是以前無法實現的功能。
       
      SPOT採用業界最低功率的半導體,在傳統電壓閾值以下運行,與同級芯片相比,可節省3-10倍的能源。
       
      這項突破性技術使邊緣設備一次充電即可運行數周或數月,或者支援更強大、更複雜的人工智慧模型,而不會犧牲電池性能。
       
      由於其革命性的晶體管設計方法, Ambiq 的SPOT 平台不僅實現了有意義的邊緣人工智慧,還使其具有可擴充性。SPOT平台擁有近90項專利和商業秘密,並獲得了多個行業獎項,使Ambiq成為製造商構建下一代節能邊緣AI設備的首要合作夥伴。

    • 邊緣人工智慧運動由三種彙聚的力量推動:
      ·半導體技術的顯著進步
      ·對回應時間更快的智慧設備的需求不斷增長
      ·在數據來源的地方處理數據的實際必要性
       
      正如摩爾定律的軌跡一樣,通過晶體管設計和微晶元架構的創新,計算能力大約每兩年翻一番。對於具有前瞻性思維的組織來說,在緊湊、節能的設備上部署複雜的人工智慧功能不僅僅是一項技術改進,更是在日益數據驅動的經濟中保持競爭優勢的戰略要務。

    • 與在遠端資料中心處理數據的雲 AI 不同,邊緣 AI 在設備上運行,可減少延遲、提高安全性並節省功耗,所有這些對於醫療保健、汽車、健身、智慧家居等領域的即時應用都至關重要。

    • 是的,邊緣 AI 和雲 AI 可以成為互補技術。
       
      雖然邊緣人工智慧擅長在本地即時處理數據,但雲人工智慧對於需要大量計算、大規模數據聚合、長期存儲和持續模型訓練的任務仍然至關重要。我們建議使用混合方法,即雲和邊緣協同工作,以提供回應能力和運營效率。

    • 是的。由於數據是在設備上本地處理的,因此邊緣 AI 可顯著降低數據洩露的風險,並最大限度地減少雲漏洞的風險,非常適合醫療保健和生物識別等隱私敏感應用。

    • 不。邊緣人工智慧的主要優勢之一是它不依賴持續的雲連接,使設備能夠在離線或低頻寬環境中可靠運行。

    • 用三個詞來說——節能計算。
       
      為了成功實施邊緣人工智慧,製造商必須在計算性能、記憶體容量和功耗之間實現精確平衡。設備需要足夠的處理能力來在本地執行複雜的人工智慧模型,同時保持電源效率,從而允許在有限的電池資源上延長運行時間。
       
      這種平衡在理論上聽起來很簡單,但在實踐中卻帶來了重大挑戰。製造商經常遇到幾個關鍵障礙:
      ·能源消耗障礙:許多人工智慧實施以不可持續的速度消耗電力,使設備不適合日常使用。當電池需要不斷充電時,即使是最具創新性的解決方案也無法獲得用戶的認可。
      ·計算限制:處理能力不足會造成瓶頸,無法進行即時分析,迫使設備將數據傳輸到其他地方進行處理,並破壞了邊緣人工智慧架構的核心優勢。
      ·市場差異化挑戰:當技術限制迫使製造商在人工智慧功能上做出妥協時,由此產生的產品往往缺乏使其與競爭對手區分開來的獨特功能,從而導致商品化和市場價值下降。
       
      有效的邊緣人工智慧的實施需要精確優化。設備必須包含足夠的計算資源來直接執行複雜的機器學習演算法,無論是分析環境感測器數據、處理語音命令還是檢測運動模式,同時保持與雲基礎設施的作獨立性並延長電池壽命。

    • 邊緣人工智慧可應用於可穿戴設備、數位健康設備、智慧家居、工業機械、農業和消費電子產品等。任何需要更高能效、回應能力和可靠性的行業都是邊緣 AI 最具影響力的地方。

    • 邊緣 AI 通過最大限度地減少雲計算使用、頻寬需求和能耗來降低持續成本,從而降低製造商和使用者的總擁有成本。

    • 邊緣人工智慧通過將數據處理從能源密集型雲端伺服器轉移到超高效的本地設備來支援可持續發展。這降低了設備級別和數據中心的功耗,從而顯著降低了碳足跡。通過延長電池壽命、最大限度地減少數據傳輸並減少基礎設施需求,邊緣人工智慧有助於創建更加環保、節能的技術生態系統。

    • 各種邊緣 AI 任務,包括關鍵字發現、語音去噪、心電圖監控、手勢識別、活動分類、圖像識別、異常檢測、預測性維護等,都可以在邊緣完成。

    • 支援的邊緣 AI 裝置範例包括智慧手錶、健身追蹤器、醫療監視器、工業感測器、生物識別智慧卡、AR/VR 技術、視頻遊戲週邊設備、智慧家居揚聲器和其他智慧設備。

    • 通過消除將數據持續傳輸到雲端的需要,邊緣人工智慧減少了能源消耗並顯著延長了設備的正常運行時間。

    視頻庫

    Carlos 在 EW25 上發表主題演講
    心基特在 EW25 與電子製造商
    Edge AI 風暴與斯科特
    與 Scott 一起想像活動
    與 Arm 和 Scott 的 AI 課堂演示
    Apollo510 與 Scott 在 ipXchange 上的介紹
    AI 與 Carlos 一起參加 Ambiq

    其他資源

    準備下載