什么是边缘AI?

边缘AI是指部署在资源受限设备上的神经网络模型,这些模型无需云连接即可实时执行智能功能(例如过滤数据和识别感兴趣的事件)。

将AI推向边缘

边缘AI是指将AI模型和算法直接部署在端侧电源受限的本地设备上,而不是集中式云环境中。

自 2022 年以来,像 ChatGPT 这样基于云的AI平台一直是人们关注的焦点,而一场更加悄无声息但同样具有变革意义的革命正在展开-边缘AI。随着设备变得越来越先进和多功能,AI必须超越基于云的部署方式,才能在计算和能源资源有限的环境中蓬勃发展。

边缘AI将边缘计算与AI相结合,使设备能够直接在本地硬件上执行机器学习任务,而无需依赖云处理。这些智能设备可以实时分析数据,而无需持续连接互联网,这是对传统云端AI实施方式的重大转变。

人们越来越期待AI能以实用、有意义的方式出现在他们身边,而不仅仅是在家里或办公室。边缘AI市场反映了这一需求,预计到 2030 年将达到 664.7 亿美元,为早期开发者创造了巨大的市场机会。

Ambiq 革命性的亚阈值功耗优化技术 (SPOT®) 平台正在加速这一转变,为以前无法实现传统AI的设备提供超低功耗、高性能的AI功能。

云端AI与边缘AI的区别

边缘AI在数据采集源头(而非集中式云环境)进行数据采集和处理,从而带来了巨大的机遇。

云端AI

推理在这里发生

边缘AI

推理在这里发生

边缘AI的优势:

  • 降低延迟,实现实时分析
  • 增强可靠性
  • 加强隐私和安全
  • 降低运营成本
  • 延长电池寿命

边缘AI的优势包括

  • 降低延迟,实现实时分析

    直接在设备上处理数据,消除了网络传输延迟,可对时间敏感的应用进行实时分析

  • 增强可靠性

    边缘AI解决方案的运行不受网络连接的影响,即使在带宽有限或网络中断的环境中也能保持功能。

  • 加强隐私和安全

    健康数据等敏感信息仍保留在本地设备上,从而大大降低了网络漏洞或云数据泄露对用户隐私的影响

  • 降低
    运行成本

    在日常处理任务中减少对云基础设施的依赖,可帮助企业大幅降低数据传输费用、云计算成本和存储费用。

  • 延长电池寿命

    数据传输是移动设备最耗电的操作之一,本地处理数据可显著降低能耗,延长设备电池寿命

边缘AI的应用

边缘AI的普及涉及许多设备和应用,包括个人设备、医疗和保健、智能家居和楼宇、工业边缘、汽车等。

120 亿美元的边缘AI市场正在蓬勃发展

按终端市场划分的预计市场规模(单位: 10亿美元)

 
$5.8$2.5$3.7$0.9

2023

 
$4.7$2.7$4.0$0.7

2024

 
$5.9$3.2$4.0$0.8

2025

 
$7.3$3.9$4.3$1.0

2026

CAGR 2023-28

图表由 Ambiq, Inc. 根据 Gartner 研究绘制,计算由 Ambiq, Inc.完成。资料来源:Gartner, Forecast: Semiconductors and Electronics, Worldwide, 2022-2028, 4Q24 Update, Rajeev Rajput 等人,2024 年 12 月 16 日, 以营收为基准。

关于边缘AI的常见问题

  • 自 2010 年以来,Ambiq 专有的 SPOT® 平台重新定义了边缘计算的可能性。通过提供前所未有的能效,SPOT 使制造商能够直接在边缘设备上部署复杂的AI模型——这是以前无法实现的。
     
    SPOT 采用业界功耗最低的半导体技术,工作电压低于传统电压阈值,与同类传统芯片相比,可实现 3-10 倍的节能效果。
     
    这项开创性的技术使边缘设备在一次充电后可运行数周或数月,或在不牺牲电池性能的情况下支持更强大、更复杂的AI模型。
     
    得益于其革命性的晶体管设计方法,Ambiq 的 SPOT平台不仅实现了有意义的边缘AI,而且使其具有可扩展性。 SPOT 平台拥有近 90 项专利和商业秘密,并荣获多项工业大奖,使 Ambiq 成为制造商打造下一代高能效边缘AI设备的重要合作伙伴。

  • 边缘AI的发展由三大因素共同推动:
    - 半导体技术的显著进步
    - 对反应速度更快的智能设备的需求不断增长
    - 在数据来源地处理数据的实际必要性
     
    根据摩尔定律的轨迹,通过晶体管设计和微芯片架构的创新,计算能力大约每两年翻一番。对于具有前瞻性思维的企业来说,在紧凑、节能的设备上部署复杂的AI功能不仅仅是技术上的改进,更是在日益数据化的经济中保持竞争优势的战略需要。

  • 与在远程数据中心处理数据的云端AI不同,边缘AI在设备上运行,可减少延迟、提高安全性并节约电能,这些对于医疗保健、汽车、健身、智能家居等领域的实时应用都至关重要。

  • 是的,边缘AI和云端AI可以互补。
     
    虽然边缘AI擅长在本地实时处理数据,但对于需要大量计算、大规模数据聚合、长期存储和持续模型训练的任务来说,云端AI仍然是必不可少的。我们建议使用混合方法-云端和边缘协同工作,既能提高响应速度,又能提高运行效率。

  • 是的,由于数据是在设备上本地处理的,边缘AI大大降低了数据泄露的风险,并最大限度地减少了云端漏洞的风险,非常适合医疗保健和生物识别等对隐私敏感的应用。

  • 边缘AI的主要优势之一是它不依赖于持续的网络连接,使设备能够在离线或低带宽环境下可靠运行。

  • 四个字-节能计算。
     
    要成功实现边缘AI,制造商必须在计算性能、内存容量和功耗之间实现精确平衡。设备需要具备足够的处理能力,以便在本地执行复杂的AI模型,同时保持电源效率,以便在有限的电池资源下长时间运行。
     
    这种平衡在理论上听起来简单明了,但在实践中却面临着巨大的挑战。制造商经常会遇到几个关键障碍:
    - 能耗障碍:许多AI实施都以不可持续的速度耗电,导致设备无法用于日常使用。如果电池需要不断充电,即使是最创新的解决方案也无法获得用户的认可。
    - 计算限制:处理能力不足会造成瓶颈,阻碍实时分析,迫使设备将数据传输到其他地方进行处理,从而失去边缘AI架构的核心优势。
    - 市场差异化挑战:当技术限制迫使制造商在AI功能上做出妥协时,由此产生的产品往往缺乏与众不同的特点,无法与竞争对手区分开来,从而导致商品化和市场价值降低。
     
    实施有效的边缘AI需要精确的优化。设备必须集成足够的计算资源,以直接执行复杂的机器学习算法-无论是分析环境传感器数据、处理语音命令,还是检测运动模式-同时保持与云基础设施的运行独立性,并延长电池寿命。

  • 边缘AI可应用于可穿戴设备、数字健康设备、智能家居、工业机械、农业和消费电子产品等等。任何需要更高的能效、响应速度和可靠性的行业都是边缘AI影响最大的领域。

  • 边缘AI可最大限度地减少云计算的使用、带宽需求和能源消耗,从而降低持续成本,为制造商和用户带来更低的持有成本。

  • 边缘AI将数据处理从能源密集型的云服务器转移到超高效的本地设备,从而支持可持续发展。 这减少了设备和整个数据中心的功耗,大大降低了碳足迹。 通过延长电池寿命、最大限度地减少数据传输和降低基础设施需求,边缘AI有助于创建更环保、更具能源意识的技术生态系统。

  • 各种边缘AI任务,包括关键词发现、语音去噪、心电图监测、手势识别、活动分类、图像识别、异常检测、预测性维护等,都可以在边缘实现。

  • 支持的边缘AI设备包括智能手表、健身追踪器、医疗监视器、工业传感器、生物识别智能卡、AR/VR 技术、视频游戏外设、智能家居扬声器和其他智能设备。

  • 边缘AI无需将数据不断传输到云端,从而减少了能源消耗,大大延长了设备的正常运行时间。

视频资料库

Carlos在 Embedded World 2025 大会上发表主题演讲
Carlos在 Embedded World 2025 大会上发表主题演讲
Carlos在 Embedded World 2025 大会上的heartKIT演示
Carlos在 Embedded World 2025 大会上的heartKIT演示
与Scott一起迎接和拥抱边缘AI风暴
与Scott一起迎接和拥抱边缘AI风暴
Scott在Imagine 2024大会上畅谈边缘AI
Scott在Imagine 2024大会上畅谈边缘AI
AI小课堂(基于Apollo510的AI图像分类演示)
AI小课堂(基于Apollo510的AI图像分类演示)
Scott 介绍Ambiq最新一代的 Apollo510 SoC
Scott 介绍Ambiq最新一代的 Apollo510 SoC
与Carlos一起探讨Ambiq的超低功耗边缘AI
与Carlos一起探讨Ambiq的超低功耗边缘AI

其他资源

Ambiq と ams OSRAM、Embedded World 2025 ブースで heartKIT™ を紹介

734 意见
3 周前
准备下载