
因此,在上一篇文章中,我讨论了我们如何让三股强大的顺风与三股令人生畏的逆风相交-这对边缘人工智能意味着什么?面对所有这些逆风,一个理智的水手会告诉你留在港口,但那又有什么意思呢?这确实给预测趋势带来了困难,但还不至于让我冒着自取其辱的风险去尝试。
隐形人工智能改进功能
预测 1:调整边缘设备内部功能的新型 "隐形 "模式将大量涌现。
考虑到我们上面讨论的限制因素,人工智能在边缘领域能做的事情屈指可数,而这些事情的受欢迎程度足以鼓励投资,比如简单(但聪明)的语音识别、音频和图像分类、活动和健康监控以及工业传感器监控。
人工智能还能做很多其他事情,但最终用户只能看到一部分。 例如 人工智能可用于检测您所处的房间类型,并以此来更有效地调整通话过程中的降噪效果。 T呼叫者只会注意到通话音质很好,而不会知道人工智能参与其中。 许多这类 "近似物理"模型并不需要庞大的数据集-相反,模拟、强化学习、零或少量学习等技术都可以用来训练模型。
人工智能模型不断改进
预测 2:现有模型将继续改进并增加功能。
如上文所述,目前的大多数模型在从传感器推断信息方面都存在很多问题。 例如,从一个人的走路步态就能看出他的健康状况-步态是否平衡、喜欢哪种走路方式等等。 大多数模型没有尝试这样做,因为目前还没有数据集,但数据是存在的。 每个佩戴智能手表的人都是一个潜在的数据源,手表制造商只需收集其中一小部分数据,就能建立一个惊人的数据集。 这需要找到愿意自愿提供数据的人,目前一些主要制造商已经这样做了。
什么是边缘人工智能?
通常情况下,当用户与消费、工业和安全设备中的人工智能进行交互时,只有一小部分人工智能处理是在本地进行的,而 "繁重的工作 "都交给了云端。 这并不理想,因为来回发送所有数据会消耗能源,增加延迟,并暴露潜在的私人数据。
边缘人工智能就是要解决这些问题。 它指的是完全在本地嵌入式系统上运行的人工智能,无需不断与云通信,从而节省了电力和时间,同时提高了私密性和安全性。 Ambiq 的低功耗利用率意味着可以在本地执行更多的人工智能,而不会影响电池寿命。
我经常写到推动边缘人工智能达到新的有用性和价值水平的尾风,下面我将再次谈到这些尾风。 不过,了解它所遇到的困难也很重要。 潜在的威胁和机遇相结合,使边缘人工智能处于一种混乱的非线性状态,在某些领域取得了很大进展,而在另一些领域却进展甚微。
更高效的人工智能部署
预测 3:2023 年,高效的人工智能运行时将逐渐成熟并得到采用。
人工智能通过 "运行时 "在设备上执行,"运行时 "是一段能理解模型定义并在设备上运行的代码。 最流行的运行时是 "微控制器 TensorFlow Lite"(TLFM)。TLFM 是在设备上启动和运行模型的好方法,因为它有一个庞大的开发人员生态系统,可以向其寻求问题和支持,并围绕它构建了许多工具。 遗憾的是,与优秀的编码人员手工制作的结果相比,它的效率并不高(就像Ambiq®为我们的语音识别模型集 NNSP 所做的那样)。TLFM 使用了更多的内存和计算,导致了更高的使用率、延迟和内存占用。 不过,手工编码人工智能模型*困难,因此开发人员倾向于坚持使用 TFLM。
不过,还有一条中间道路:将人工智能模型转换成 "可编译 "语言(如C 语言)的工具。 这些技术与高效的运行时间相结合,执行模型的速度比 TFLM 快很多倍。 此类解决方案不在少数,但没有一个像 TFLM 那样被广泛采用或得到广泛支持。
结论

在边缘产品中添加人工智能功能是一项需要权衡利弊的工作-人工智能是出了名的资源密集型技术,需要消耗大量的 CPU 周期、内存和电力。 在 Ambiq,我们对能效非常痴迷,这种痴迷的结果就是基于 CPU 的推理基准测试结果以较大优势领先于行业。 我们有目的地构建我们的硬件和软件,使其相互配合,以提供最佳结果,平衡精度、性能和功耗,满足任何边缘设备的人工智能要求。
Ambiq 通过推动超低功耗创新,已成长为全球最令人垂涎的人工智能(AI)技术公司之一。 2022 年 7 月,Ambiq 推出了 neuralSPOT®,在电池电量有限的情况下在电子设备上实现人工智能。 过去由于功耗要求而无法实现的物联网边缘设备现在已经能够实现高性能的人工智能功能,包括语音识别、活动检测和实时分析。
neuralSPOT 包括在 Ambiq 平台(如最新的Apollo4 Plus和Blue PlusSoC)上建立人工智能模型所需的一切。SDK 包括用于与传感器对话、SoC 外围设备管理、电源和内存控制配置的库,用于从任何笔记本电脑或 PC 轻松调试 AI 模型的工具,以及将所有功能整合在一起的示例。
因为模型是人工智能的核心,为了使实用的边缘人工智能成为可能,Ambiq 还创建了 ModelZoo是一个开源边缘人工智能模型集合,其中包含从零开始开发模型所需的所有工具。 这里有用于与传感器对话、管理 SoC 外围设备、控制电源和内存配置的库,有用于从笔记本电脑或个人电脑上轻松调试模型的工具,还有将这一切联系在一起的示例。 neuralSPOT 包含 Ambiq 专用的嵌入式库,用于音频、i2c 和 USB 外围设备、电源管理以及大量辅助功能(如进程间通信和内存管理)。 这是第一次,一个简单而优雅的工具可以为不同角色的人工智能开发人员(包括数据专家、人工智能专家和应用专家)赋能。