• 产品
  • 应用
  • 技术
  • 工具
  • 关于我们
  • 2023 年边缘人工智能预测:第二部分

    情报边缘博客
      物联网生态系统终端设备

      因此,在上一篇文章中,我讨论了我们如何让三股强大的顺风与三股令人生畏的逆风相交–这对边缘人工智能意味着什么?面对所有这些逆风,一个理智的水手会告诉你留在港口,但那又有什么意思呢?这确实给预测趋势带来了困难,但还不至于让我冒着自取其辱的风险去尝试。

      隐形人工智能改进功能

      预测 1:调整边缘设备内部功能的新型 “隐形 “模式将大量涌现。

      考虑到我们上面讨论的限制因素,人工智能在边缘领域能做的事情屈指可数,而这些事情的受欢迎程度足以鼓励投资,比如简单(但聪明)的语音识别、音频和图像分类、活动和健康监控以及工业传感器监控。

      人工智能还能做很多其他事情,但最终用户只能看到一部分。例如 人工智能可用于检测您所处的房间类型,并以此来更有效地调整通话过程中的降噪效果。T 通话者只会注意到通话的音质很好,而不会知道人工智能参与其中。许多这类 “近似物理“模型并不需要庞大的数据集–相反,模拟强化学习、零或少量学习等技术可以用来训练模型。

      人工智能模型不断改进

      预测 2:现有模型将继续改进并增加功能。

      正如我在前面提到的,目前的大多数型号在从传感器推断信息方面都存在很多不足。例如,你可以从一个人的走路步态看出他的健康状况–步态是否平衡、喜欢哪种走路方式等等。大多数模型都没有尝试这样做,因为目前还没有数据集,但数据是存在的。每个佩戴智能手表的人都是潜在的数据源,手表制造商只需收集其中一小部分数据,就能建立一个惊人的数据集。问题是要找到愿意自愿提供数据的人,而一些主要制造商目前正在这样做。

      什么是边缘人工智能?
      通常情况下,当用户与消费、工业和安全设备中的人工智能进行交互时,只有一小部分人工智能处理是在本地进行的,而 “繁重的工作 “都委托给了云。这种做法并不理想,因为来回发送所有数据会消耗能源、增加延迟并暴露潜在的私人数据。

      边缘人工智能旨在解决这些问题。它指的是完全在本地嵌入式系统上运行的人工智能,无需不断与云通信,从而节省了电力和时间,同时提高了隐私性和安全性。Ambiq 的低功耗利用率意味着可以在不影响电池寿命的情况下在本地执行更多的人工智能。

      我经常在文章中提到推动边缘人工智能达到新的有用性和价值水平的尾风,下面我将再次谈到这些尾风。不过,同样重要的是要了解边缘人工智能所面临的逆风。潜在威胁和机遇的结合使边缘人工智能处于混乱的非线性状态,在某些领域取得了很大进展,而在另一些领域却进展甚微。

      更高效的人工智能部署

      预测 3:2023 年,高效的人工智能运行时将逐渐成熟并得到采用。

      人工智能通过 “运行时 “在设备上执行,"运行时 “是一段理解模型定义并在设备上运行的代码。最流行的运行时是 “Tensorflow Lite for Microcontrollers"(TLFM)。TLFM 是在设备上启动和运行模型的好方法,因为它有一个庞大的开发者生态系统,可以提供问题和支持,并围绕它构建了很多工具。遗憾的是,与优秀的编码人员手工制作的模型相比,TLFM的效率并不高(就像Ambiq®为我们的语音识别模型集 NNSP 所做的那样)。TLFM 使用的内存和计算量更大,导致使用率、延迟和内存占用更高。不���,人工智能模型的手工编码*困难,因此开发人员倾向于坚持使用 TFLM。

      这些工具与高效的运行时相结合,执行模型的速度比 TFLM 快很多倍。这类解决方案不在少数,但没有一个能像 TFLM 那样被广泛采用或得到广泛支持。

      结论

      智能哑铃概念

      为您的边缘产品添加人工智能功能是一项需要权衡利弊的工作–人工智能是出了名的资源密集型产品,需要消耗大量的 CPU 周期、内存和电力。在 Ambiq,我们对能效非常痴迷,这种痴迷使我们在基于 CPU 的推理基准测试结果中大幅领先于业界。我们有目的地构建我们的硬件和软件,使其能够协同工作,提供最佳结果,平衡精度、性能和功耗,满足任何边缘设备的人工智能要求。

      Ambiq 通过推动超低功耗创新,已成长为全球最令人垂涎的人工智能(AI)技术公司之一。2022 年 7 月,Ambiq 推出了 neuralSPOT®,在电池电量有限的情况下在电子设备上实现人工智能。过去由于功耗要求而无法实现的物联网边缘设备现在能够实现高性能人工智能功能,包括语音识别、活动检测和实时分析。

      neuralSPOT 包括在 Ambiq 平台(如最新的Apollo4 PlusBlue PlusSoC)上建立人工智能模型所需的一切。SDK 包括用于与传感器对话、SoC 外围设备管理、电源和内存控制配置的库,用于从任何笔记本电脑或 PC 轻松调试 AI 模型的工具,以及将所有功能整合在一起的示例。

      因为模型是人工智能的核心,为了使实用的边缘人工智能成为可能,Ambiq 还创建了 ModelZoo是一个开源边缘人工智能模型集合,其中包含从零开始开发模型所需的所有工具。neuralSPOT 包含 Ambiq 专用的嵌入式库,用于音频、i2c 和 USB 外围设备、电源管理以及大量辅助功能(如进程间通信和内存管理)。这是第一次,一个简单而优雅的工具可以为不同角色的人工智能开发人员(包括数据专家、人工智能专家和应用专家)提供能力。

      更多信息,请访问Ambiq AI – Ambiq Supercharging edge AI

      订阅新闻通讯

        准备下载
        此站点在 wpml.org 上注册为开发站点。切换到 remove this banner 的生产站点密钥。