• 产品
  • 应用
  • 技术
  • 工具
  • 关于我们
  • 什么是边缘AI?

    边缘AI是指部署在资源受限设备上的神经网络模型,这些模型无需云连接即可实时执行智能功能(例如过滤数据和识别感兴趣的事件)。

    将AI推向边缘

    边缘AI是指将AI模型和算法直接部署在端侧电源受限的本地设备上,而不是集中式云环境中。

    自 2022 年以来,像 ChatGPT 这样基于云的AI平台一直是人们关注的焦点,而一场更加悄无声息但同样具有变革意义的革命正在展开-边缘AI。随着设备变得越来越先进和多功能,AI必须超越基于云的部署方式,才能在计算和能源资源有限的环境中蓬勃发展。

    边缘AI将边缘计算与AI相结合,使设备能够直接在本地硬件上执行机器学习任务,而无需依赖云处理。这些智能设备可以实时分析数据,而无需持续连接互联网,这是对传统云端AI实施方式的重大转变。

    人们越来越期待AI能以实用、有意义的方式出现在他们身边,而不仅仅是在家里或办公室。边缘AI市场反映了这一需求,预计到 2030 年将达到 664.7 亿美元,为早期开发者创造了巨大的市场机会。

    Ambiq 革命性的亚阈值功耗优化技术 (SPOT®) 平台正在加速这一转变,为以前无法实现传统AI的设备提供超低功耗、高性能的AI功能。

    云端AI与边缘AI的区别

    边缘AI在数据采集源头(而非集中式云环境)进行数据采集和处理,从而带来了巨大的机遇。

    云端AI

    推理在这里发生

    边缘AI

    推理在这里发生

    边缘AI的优势:

    • 降低延迟,实现实时分析
    • 增强可靠性
    • 加强隐私和安全
    • 降低运营成本
    • 延长电池寿命

    边缘AI的优势包括

    • 降低延迟,实现实时分析

      直接在设备上处理数据,消除了网络传输延迟,可对时间敏感的应用进行实时分析

    • 增强可靠性

      边缘AI解决方案的运行不受网络连接的影响,即使在带宽有限或网络中断的环境中也能保持功能。

    • 加强隐私和安全

      健康数据等敏感信息仍保留在本地设备上,从而大大降低了网络漏洞或云数据泄露对用户隐私的影响

    • 降低
      运行成本

      在日常处理任务中减少对云基础设施的依赖,可帮助企业大幅降低数据传输费用、云计算成本和存储费用。

    • 延长电池寿命

      数据传输是移动设备最耗电的操作之一,本地处理数据可显著降低能耗,延长设备电池寿命

    边缘AI的应用

    边缘AI的普及涉及许多设备和应用,包括个人设备、医疗和保健、智能家居和楼宇、工业边缘、汽车等。

    120 亿美元的边缘AI市场正在蓬勃发展

    按终端市场划分的预计市场规模(单位: 10亿美元)

     
    $5.8$2.5$3.7$0.9

    2023

     
    $4.7$2.7$4.0$0.7

    2024

     
    $5.9$3.2$4.0$0.8

    2025

    CAGR 2023-28

    图表由 Ambiq, Inc. 根据 Gartner 研究绘制,计算由 Ambiq, Inc.完成。资料来源:Gartner, Forecast: Semiconductors and Electronics, Worldwide, 2022-2028, 4Q24 Update, Rajeev Rajput 等人,2024 年 12 月 16 日, 以营收为基准。

    关于边缘AI的常见问题

    • 自 2010 年以来,Ambiq 专有的 SPOT® 平台重新定义了边缘计算的可能性。通过提供前所未有的能效,SPOT 使制造商能够直接在边缘设备上部署复杂的AI模型——这是以前无法实现的。
       
      SPOT 采用业界功耗最低的半导体技术,工作电压低于传统电压阈值,与同类传统芯片相比,可实现 3-10 倍的节能效果。
       
      这项开创性的技术使边缘设备在一次充电后可运行数周或数月,或在不牺牲电池性能的情况下支持更强大、更复杂的AI模型。
       
      得益于其革命性的晶体管设计方法,Ambiq 的 SPOT平台不仅实现了有意义的边缘AI,而且使其具有可扩展性。 SPOT 平台拥有近 90 项专利和商业秘密,并荣获多项工业大奖,使 Ambiq 成为制造商打造下一代高能效边缘AI设备的重要合作伙伴。

    • 边缘AI的发展由三大因素共同推动:
      - 半导体技术的显著进步
      - 对反应速度更快的智能设备的需求不断增长
      - 在数据来源地处理数据的实际必要性
       
      根据摩尔定律的轨迹,通过晶体管设计和微芯片架构的创新,计算能力大约每两年翻一番。对于具有前瞻性思维的企业来说,在紧凑、节能的设备上部署复杂的AI功能不仅仅是技术上的改进,更是在日益数据化的经济中保持竞争优势的战略需要。

    • 与在远程数据中心处理数据的云端AI不同,边缘AI在设备上运行,可减少延迟、提高安全性并节约电能,这些对于医疗保健、汽车、健身、智能家居等领域的实时应用都至关重要。

    • 是的,边缘AI和云端AI可以互补。
       
      虽然边缘AI擅长在本地实时处理数据,但对于需要大量计算、大规模数据聚合、长期存储和持续模型训练的任务来说,云端AI仍然是必不可少的。我们建议使用混合方法-云端和边缘协同工作,既能提高响应速度,又能提高运行效率。

    • 是的,由于数据是在设备上本地处理的,边缘AI大大降低了数据泄露的风险,并最大限度地减少了云端漏洞的风险,非常适合医疗保健和生物识别等对隐私敏感的应用。

    • 边缘AI的主要优势之一是它不依赖于持续的网络连接,使设备能够在离线或低带宽环境下可靠运行。

    • 四个字-节能计算。
       
      要成功实现边缘AI,制造商必须在计算性能、内存容量和功耗之间实现精确平衡。设备需要具备足够的处理能力,以便在本地执行复杂的AI模型,同时保持电源效率,以便在有限的电池资源下长时间运行。
       
      这种平衡在理论上听起来简单明了,但在实践中却面临着巨大的挑战。制造商经常会遇到几个关键障碍:
      - 能耗障碍:许多AI实施都以不可持续的速度耗电,导致设备无法用于日常使用。如果电池需要不断充电,即使是最创新的解决方案也无法获得用户的认可。
      - 计算限制:处理能力不足会造成瓶颈,阻碍实时分析,迫使设备将数据传输到其他地方进行处理,从而失去边缘AI架构的核心优势。
      - 市场差异化挑战:当技术限制迫使制造商在AI功能上做出妥协时,由此产生的产品往往缺乏与众不同的特点,无法与竞争对手区分开来,从而导致商品化和市场价值降低。
       
      实施有效的边缘AI需要精确的优化。设备必须集成足够的计算资源,以直接执行复杂的机器学习算法-无论是分析环境传感器数据、处理语音命令,还是检测运动模式-同时保持与云基础设施的运行独立性,并延长电池寿命。

    • 边缘AI可应用于可穿戴设备、数字健康设备、智能家居、工业机械、农业和消费电子产品等等。任何需要更高的能效、响应速度和可靠性的行业都是边缘AI影响最大的领域。

    • 边缘AI可最大限度地减少云计算的使用、带宽需求和能源消耗,从而降低持续成本,为制造商和用户带来更低的持有成本。

    • 边缘AI将数据处理从能源密集型的云服务器转移到超高效的本地设备,从而支持可持续发展。 这减少了设备和整个数据中心的功耗,大大降低了碳足迹。 通过延长电池寿命、最大限度地减少数据传输和降低基础设施需求,边缘AI有助于创建更环保、更具能源意识的技术生态系统。

    • 各种边缘AI任务,包括关键词发现、语音去噪、心电图监测、手势识别、活动分类、图像识别、异常检测、预测性维护等,都可以在边缘实现。

    • 支持的边缘AI设备包括智能手表、健身追踪器、医疗监视器、工业传感器、生物识别智能卡、AR/VR 技术、视频游戏外设、智能家居扬声器和其他智能设备。

    • 边缘AI无需将数据不断传输到云端,从而减少了能源消耗,大大延长了设备的正常运行时间。

    视频资料库

    Carlos在 Embedded World 2025 大会上发表主题演讲
    Carlos在 Embedded World 2025 大会上的heartKIT演示
    与Scott一起迎接和拥抱边缘AI风暴
    Scott在Imagine 2024大会上畅谈边缘AI
    AI小课堂(基于Apollo510的AI图像分类演示)
    Scott 介绍Ambiq最新一代的 Apollo510 SoC
    与Carlos一起探讨Ambiq的超低功耗边缘AI

    其他资源

    Ambiq 与 ithinx 推出适用于边缘计算的高性能射频天线设计

    9 意见
    2 周前
    准备下载