• 产品
  • 应用
  • 技术
  • 工具
  • 关于我们
  • 什么是边缘人工智能?

    边缘人工智能是指部署在资源受限设备上的神经网络模型,可实时执行智能功能,如过滤数据和识别感兴趣的事件,而无需云连接。

    将人工智能释放到边缘

    边缘人工智能(AI)是指将人工智能模型和算法直接部署在边缘电源受限的本地设备上,而不是集中式云环境中。

    自 2022 年以来,像 ChatGPT 这样基于云的人工智能平台一直是人们关注的焦点,而一场更加悄无声息但同样具有变革意义的革命正在展开–边缘人工智能。随着设备变得越来越先进和多功能,人工智能必须超越基于云的实施,才能在计算和能源资源有限的环境中茁壮成长。

    边缘人工智能将边缘计算与人工智能相结合,使设备能够直接在本地硬件上执行机器学习任务,而无需依赖云处理。这些智能设备可以实时分析数据,而无需持续连接互联网,这是对传统云端人工智能实施方式的重大转变。

    人们越来越期待人工智能能以实用、有意义的方式出现在他们身边,而不仅仅是在家里或办公桌后。边缘人工智能市场反映了这一需求,预计到 2030 年将达到 664.7 亿美元,为早期采用者创造了巨大的市场机会。

    Ambiq 革命性的亚阈值功率优化技术(SPOT®)平台正在加速这一转变,为以前无法实现传统人工智能的设备提供超低功耗、高性能人工智能功能。

    云人工智能与边缘人工智能的区别

    当捕获和处理发生在收集数据的源头,而不是集中的云环境中时,边缘人工智能就会带来巨大的机遇。

    云计算人工智能

    推理在这里发生

    EDGE AI

    推理在这里发生

    边缘人工智能的优势:

    • 降低延迟,实现实时分析
    • 增强可靠性
    • 加强隐私和安全
    • 降低运营成本
    • 延长电池寿命

    边缘人工智能的优势包括

    • 降低延迟,实现实时分析

      直接在设备上处理数据,消除了网络传输延迟,可对时间敏感的应用进行实时分析

    • 增强可靠性

      边缘人工智能解决方案的运行不受互联网连接的影响,即使在带宽有限或网络中断的环境中也能保持功能。

    • 加强隐私和安全

      健康数据等敏感信息仍保留在本地设备上,从而大大降低了网络漏洞或云数据泄露对用户隐私的影响

    • 降低
      运行成本

      在日常处理任务中减少对云基础设施的依赖,可帮助企业大幅降低数据传输费用、云计算成本和存储费用。

    • 延长电池寿命

      数据传输是移动设备最耗电的操作之一。本地处理数据可显著降低能耗,延长设备电池寿命

    边缘人工智能的应用

    边缘人工智能的普及涉及许多设备和应用,包括个人设备、医疗和保健、智能家居和楼宇、工业边缘、汽车等。

    120 亿美元的边缘人工智能市场正在蓬勃发展

    按终端市场划分的预计市场规模(10 亿美元)

     
    $5.8$2.5$3.7$0.9

    2023

     
    $4.7$2.7$4.0$0.7

    2024

     
    $5.9$3.2$4.0$0.8

    2025

    CAGR 2023-28

    图表由 Ambiq, Inc. 根据 Gartner 研究绘制。计算由 Ambiq, Inc.资料来源资料来源:Gartner,预测:2022-2028 年全球半导体和电子产品,4Q24 更新,Rajeev Rajput 等人,2024 年 12 月 16 日 收入基础。

    关于边缘人工智能的常见问题

    • 自 2010 年以来,Ambiq 专有的 SPOT® 平台重新定义了边缘设备的可能性。通过提供前所未有的能效,SPOT 使制造商能够直接在边缘设备上部署复杂的人工智能模型,这是以前无法实现的能力。
       
      SPOT 采用业界功耗最低的半导体,工作电压低于传统电压阈值,与同类芯片相比,可实现 3-10 倍的节能效果。
       
      这项开创性的技术使边缘设备在一次充电后可运行数周或数月,或在不牺牲电池性能的情况下支持更强大、更复杂的人工智能模型。
       
      凭借其革命性的晶体管设计方法,Ambiq 的 SPOT平台不仅实现了有意义的边缘人工智能,而且使其具有可扩展性。SPOT 平台拥有近 90 项专利和商业秘密,并荣获多个行业奖项,使 Ambiq 成为制造商打造下一代高能效边缘人工智能设备的首要合作伙伴。

    • 推动边缘人工智能运动的是三股汇聚在一起的力量:
      – 半导体技术的显著进步
      – 对反应速度更快的智能设备的需求不断增长
      – 在数据来源地处理数据的实际必要性
       
      根据摩尔定律的轨迹,通过晶体管设计和微芯片架构的创新,计算能力大约每两年翻一番。对于具有前瞻性思维的企业来说,在紧凑、节能的设备上部署复杂的人工智能功能不仅仅是技术上的改进,更是在日益数据化的经济中保持竞争优势的战略需要。

    • 与在远程数据中心处理数据的云人工智能不同,边缘人工智能在设备上运行,可减少延迟、提高安全性并节约电能,这些对于医疗保健、汽车、健身、智能家居等领域的实时应用都至关重要。

    • 是的,边缘人工智能和云人工智能可以成为互补技术。
       
      虽然边缘人工智能擅长在本地实时处理数据,但对于需要大量计算、大规模数据聚合、长期存储和持续模型训练的任务来说,云人工智能仍然是必不可少的。我们建议使用混合方法–云和边缘协同工作,既能提高响应速度,又能提高运行效率。

    • 是的,由于数据是在设备上本地处理的,边缘人工智能大大降低了数据泄露的风险,并最大限度地减少了云漏洞的风险,非常适合医疗保健和生物识别等对隐私敏感的应用。

    • 边缘人工智能的主要优势之一是它不依赖于持续的云连接,使设备能够在离线或低带宽环境下可靠运行。

    • 三个字–节能计算。
       
      要成功实现边缘人工智能,制造商必须在计算性能、内存容量和功耗之间实现精确平衡。设备需要具备足够的处理能力,以便在本地执行复杂的人工智能模型,同时保持电源效率,以便在有限的电池资源下长时间运行。
       
      这种平衡在理论上听起来简单明了,但在实践中却面临着巨大的挑战。制造商经常会遇到几个关键障碍:
      – 能耗障碍:许多人工智能实施都以不可持续的速度耗电,导致设备无法用于日常使用。如果电池需要不断充电,即使是最创新的解决方案也无法获得用户的认可。
      – 计算限制:处理能力不足会造成瓶颈,阻碍实时分析,迫使设备将数据传输到其他地方进行处理,从而失去边缘人工智能架构的核心优势。
      – 市场差异化挑战:当技术限制迫使制造商在人工智能功能上做出妥协时,由此产生的产品往往缺乏与众不同的特点,无法与竞争对手区分开来,从而导致商品化和市场价值降低。
       
      实施有效的边缘人工智能需要精确的优化。设备必须集成足够的计算资源,以直接执行复杂的机器学习算法–无论是分析环境传感器数据、处理语音命令,还是检测运动模式–同时保持与云基础设施的运行独立性,并延长电池寿命。

    • 边缘人工智能可应用于可穿戴设备、数字健康设备、智能家居、工业机械、农业和消费电子产品等等。任何需要更高的能效、响应速度和可靠性的行业都是边缘人工智能影响最大的领域。

    • 边缘人工智能可最大限度地减少云计算的使用、带宽需求和能源消耗,从而降低持续成本,为制造商和用户带来更低的总拥有成本。

    • 边缘人工智能将数据处理从能源密集型的云服务器转移到超高效的本地设备,从而支持可持续发展。 这减少了设备和整个数据中心的功耗,大大降低了碳足迹。 通过延长电池寿命、最大限度地减少数据传输和降低基础设施需求,边缘人工智能有助于创建更环保、更具能源意识的技术生态系统。

    • 各种边缘人工智能任务,包括关键词发现、语音去噪、心电图监测、手势识别、活动分类、图像识别、异常检测、预测性维护等,都可以在边缘实现。

    • 支持的边缘人工智能设备包括智能手表、健身追踪器、医疗监视器、工业传感器、生物识别智能卡、AR/VR 技术、视频游戏外设、智能家居扬声器和其他智能设备。

    • 边缘人工智能无需将数据不断传输到云端,从而减少了能源消耗,大大延长了设备的正常运行时间。

    视频资料库

    卡洛斯在 EW25 大会上发表主题演讲
    heartKIT at EW25 w/ electromaker
    Edge AI Storm w/ Scott
    与斯科特一起想象活动
    人工智能课堂演示(Arm 和 Scott 参加
    在 ipXchange 上与 Scott 介绍 Apollo510
    卡洛斯在 Ambiq 的人工智能

    其他资源

    准备下载