什么是边缘AI?

边缘人工智能(Edge AI)使AI能够直接在本地设备上运行,从而无需依赖云连接即可实时处理数据。通过在源头进行AI推理,边缘人工智能可在各类联网设备和应用中实现更快的响应速度、更强的隐私保护、更低的延迟以及更高的效率。

SPOT 是全栈边缘 AI 解决方案的基础

基金会

AI Kernels
heliaCORE
heliaDSP
Vela 驱动程序
AI Runtimes
heliaML
heliaRT
heliaAOT
AI Tools & Profilers
heliaPROFILERS
heliaEDGE

SDK

AI SDK
neuralSPOT-X
NSX Modules

解决方案


( )AI 开发工具包(ADK)
heartKIT
soundKIT
compressionKIT
sleepKIT
visionKIT
AI 演示
仪表盘
分镜脚本
ADK 演示
产品演示
基准演示

将AI推向边缘

边缘人工智能(AI)是指将人工智能模型和算法直接部署在功耗受限的边缘本地设备上,而不是部署在集中式的云环境中。

虽然自2022年以来,ChatGPT等基于云的AI平台一直备受瞩目,但一场更为低调却同样具有变革意义的革命正在悄然展开——边缘AI。随着设备日益先进且功能日益多样化,AI必须超越基于云的实现方式,才能在计算和能源资源有限的环境中蓬勃发展。

边缘人工智能将边缘计算与AI相结合,使设备能够直接在本地硬件上执行机器学习任务,而无需依赖云端处理。这些智能设备无需持续连接互联网即可实时分析数据,这标志着与传统的基于云的人工智能实现方式相比发生了重大转变。

人们越来越期待AI能够以实用且有意义的方式,在他们所在的任何地方——而不仅仅是在家中或办公桌前——随时可用。边缘AI市场反映了这一需求,预计到2030年将达到664.7亿美元,为早期采用者创造了巨大的市场机遇。

Ambiq 革命性的亚阈值功耗优化技术(SPOT®)平台,通过为那些此前无法实现传统 AI 应用的设备提供超低功耗、高性能的 AI 能力,正在加速这一转型进程。

云端AI与边缘AI的区别

当数据采集和处理在数据收集的源头进行,而非在集中式的云环境中进行时,边缘AI将带来巨大的机遇。

云端AI

推理在这里发生

边缘AI

推理在这里发生

边缘AI的优势:

  • 降低延迟,实现实时分析
  • 增强可靠性
  • 加强隐私和安全
  • 降低运营成本
  • 延长电池寿命

边缘AI的优势包括:

  • 降低延迟,实现实时分析

    直接在设备上处理数据,消除了网络传输延迟,可对时间敏感的应用进行实时分析

  • 增强可靠性

    边缘AI解决方案无需依赖互联网连接即可独立运行,即使在带宽有限或网络中断的情况下,也能保持正常运行。

  • 加强隐私和安全

    健康数据等敏感信息仍保留在本地设备上,从而大大降低了网络漏洞或云数据泄露对用户隐私的影响

  • 降低
    运行成本

    在日常处理任务中减少对云基础设施的依赖,可帮助企业大幅降低数据传输费用、云计算成本和存储费用。

  • 延长电池寿命

    数据传输是移动设备最耗电的操作之一,本地处理数据可显著降低能耗,延长设备电池寿命

边缘AI的应用

边缘AI的普及已扩展至众多设备和应用领域,包括个人设备、医疗与健康、智能家居与建筑、Industrial Edge、汽车等领域。

规模达120亿美元的边缘AI市场目前正蓬勃发展

按终端市场划分的预计市场规模(单位: 10亿美元)

 
$5.8$2.5$3.7$0.9

2023

 
$4.7$2.7$4.0$0.7

2024

 
$5.9$3.2$4.0$0.8

2025

 
$7.3$3.9$4.3$1.0

2026

CAGR 2023-28

该图表由 Ambiq, Inc. 根据 Gartner 的研究制作。 计算由Ambiq公司完成。来源:Gartner,《预测:全球半导体与电子行业,2022-2028年》,2024年第四季度更新版,Rajeev Rajput等,2024年12月16日,基于营收计算。

关于边缘AI的常见问题

  • 自2010年以来,Ambiq的专有SPOT®平台重新定义了边缘计算的可能。凭借前所未有的能效表现,SPOT使制造商能够直接在边缘设备上部署复杂的人工智能模型——这在以往是无法实现的。
     
    SPOT 采用业内功耗最低的半导体,其工作电压低于传统阈值,与同类芯片相比,能耗降低了 3 至 10 倍。
     
    这项开创性技术使边缘设备仅靠一次充电即可持续运行数周或数月,同时还能支持更强大、更复杂的AI模型,而不会影响电池性能。
     
    得益于其革命性的晶体管设计方法,Ambiq的SPOT平台不仅实现了真正有意义的边缘AI,更使其具备了可扩展性。 SPOT平台拥有近90项专利和商业秘密作为支撑,并荣获多项行业大奖,这使Ambiq成为制造商打造新一代节能边缘AI设备的首选合作伙伴。

  • 边缘AI浪潮由三股相互交汇的力量推动:
    - 半导体技术的显著进步
    - 对反应速度更快的智能设备的需求不断增长
    - 在数据来源地处理数据的实际必要性
     
    正如摩尔定律所预示的那样,得益于晶体管设计和微芯片架构的创新,计算能力大约每两年就会翻一番。对于具有前瞻性的组织而言,在紧凑且节能的设备上部署先进的AI能力,不仅仅是一项技术进步——在日益数据驱动的经济中,这是保持竞争优势的一项战略要务。

  • 与在远程数据中心处理数据的云端AI不同,边缘AI在设备端运行,能够降低延迟、提高安全性并节省电能——这些对于医疗、汽车、健身、智能家居等领域的实时应用都至关重要。

  • 是的——边缘AI和云AI可以是互补的技术。
     
    虽然边缘AI在本地实时处理数据方面表现出色,但对于需要大量计算、大规模数据聚合、长期存储以及持续模型训练的任务而言,云AI仍然不可或缺。我们建议采用混合方案——让云和边缘协同工作,既能确保响应速度,又能提高运营效率。

  • 是的。由于数据是在设备本地进行处理的,边缘AI显著降低了数据泄露的风险,并将受云端漏洞影响的风险降至最低——这对于医疗保健和生物识别等对隐私要求较高的应用而言是理想的选择。

  • 不。边缘AI的主要优势之一在于它不依赖于持续的云连接,从而使设备无论在离线还是低带宽环境下都能可靠运行。

  • 四个字-节能计算。
     
    要成功实施边缘AI,制造商必须在计算性能、内存容量和功耗之间实现精确的平衡。设备需要具备足够的处理能力,以便在本地运行复杂的人工智能模型,同时保持良好的能效,从而在有限的电池资源下实现长时间运行。
     
    这种平衡在理论上听起来简单明了,但在实践中却面临着巨大的挑战。制造商经常会遇到几个关键障碍:
    · 能耗障碍:许多AI应用的能耗水平过高,难以持续,导致设备无法用于日常使用。即使是最具创新性的解决方案,如果电池需要不断充电,也难以获得用户的认可。
    · 计算限制:处理能力不足会造成瓶颈,导致无法进行实时分析,从而迫使设备将数据传输到其他地方进行处理,这使得边缘AI架构的核心优势无法体现。
    · 市场差异化挑战:当技术限制迫使制造商在AI能力上做出妥协时,由此产生的产品往往缺乏能够使其在竞争中脱颖而出的独特特征,从而导致产品同质化,市场价值随之降低。
     
    要实现有效的边缘AI,必须进行精确的优化。设备必须具备足够的计算资源,以便直接执行复杂的机器学习算法——无论是分析环境传感器数据、处理语音指令,还是检测运动模式——同时在保持与云基础设施的运行独立性的同时,还要确保电池续航能力。

  • 边缘AI可应用于可穿戴设备、数字健康设备、智能家居、工业机械、农业以及消费电子产品等领域。任何需要更高能效、响应速度和可靠性的行业,都是边缘AI发挥最大影响力的领域。

  • 边缘AI通过最大限度地减少云计算使用、带宽需求和能耗,从而降低持续运营成本,使制造商和用户的总体拥有成本得以降低。

  • 边缘AI通过将数据处理从能耗较高的云服务器转移到超高效的本地设备,从而支持可持续发展。这既降低了设备层面的能耗,也减少了数据中心的能耗,从而显著降低了碳足迹。通过延长电池续航时间、最大限度地减少数据传输以及降低基础设施需求,边缘AI有助于构建更加环保、注重节能的技术生态系统。

  • 各种边缘AI任务,包括关键词定位、语音去噪、心电图监测、手势识别、活动分类、图像识别、异常检测、预测性维护等,均可在边缘端实现。

  • 支持的边缘AI设备示例包括智能手表、健身追踪器、医疗监护仪、工业传感器、生物识别智能卡、AR/VR技术、电子游戏外设、智能家居音箱以及其他智能设备。

  • 由于无需不断将数据传输到云端,边缘AI不仅降低了能耗,还显著延长了设备的运行时间。

视频库

Ambiq 展示了 compressionKIT 的演示
Ambiq 展示了 compressionKIT 的演示
Ambiq AI负责人将在2026年“嵌入式世界”展会上发表演讲
Ambiq AI负责人将在2026年“嵌入式世界”展会上发表演讲
Ambiq heliaAOT 简介
Ambiq heliaAOT 简介
Ambiq 亮相 2025 年《EE Times》AI Everywhere 大会
Ambiq 亮相 2025 年《EE Times》AI Everywhere 大会

其他资源

探索 Ambiq 的 harvestKIT 图形用户界面

3,904 意见
1 年前
准备下载