在这个由互联技术主导的时代，将人工智能（AI）和计算整合到边缘–互联设备，正在彻底改变我们感知智能设备并与之互动的方式。这种集成通常被称为本地设备人工智能或边缘人工智能计算，是一种日益流行的框架，用于有效收集和处理独立于云的数据。据估计，未来十年物联网和智能设备的采用量将从 151 亿台增加到 346 亿台1 ，边缘人工智能有望增强这些设备的功能和智能。
在这里，我们将探讨边缘人工智能的复杂性，包括它的优势、挑战以及使智能设备无处不在的美好前景。
什么是边缘人工智能？
通过人工智能方法，开发人员可直接在本地设备（包括传感器或物联网设备）上部署人工智能算法和模型，然后在本地收集和处理数据。这种设备上智能和机器学习（ML）能力的融合为开发新用例和应用的潜力提供了新的基础。
本地设备计算的优势
与传统的云计算方法不同，这种方法使智能更接近数据源，具有许多优势。
增强隐私和数据安全
在本地设备上实施人工智能可增强用户对其数据的控制能力。在本地处理敏感信息可减轻对隐私的担忧，并降低数据暴露于外部网络的可能性。通过将人工智能转移到本地设备，负责维护客户个人身份信息（PII）安全的组织可以得到更好的保护。
在设备上，这些数据不会暴露在云服务提供商和其他第三方的服务器上，从而确保更好地遵守有关数据保护的本地和国际法规。这种方法降低了与数据泄露和未经授权访问相关的风险，为需要提高安全性的应用程序提供了强大的解决方案。
更快的处理速度
云端人工智能的优势需要付出高昂的代价。像 GPT-3 这样的语言模型（OpenAI 据此构建了 ChatGPT 系统）需要巨大的计算能力来处理。在 ChatGPT 推出后，OpenAI 不得不启动流量管理策略，如排队系统和降低查询速度，以应对激增的需求2。这一事件凸显了计算能力正在成为瓶颈，限制了人工智能模型的发展。
本地设备人工智能大大降低了延迟，从而加快了处理速度。应用受益于更快的响应时间，实现实时决策，尤其是在自动驾驶汽车或智能家居设备等关键场景中。分散式处理还意味着，与设备必须将数据发送到云端进行处理并等待响应相比，实时生成见解的延迟时间更短。
增强用户体验
延迟的减少和处理速度的提高为用户提供了无缝和反应迅速的体验。实时反馈成为可能，从而提高用户满意度和参与度。边缘人工智能可在本地处理和分析用户数据，创建个性化体验，而无需依赖集中式服务器3。
这将带来反应更快、更量身定制的服务，例如针对购物清单、健身应用程序和膳食推荐等情况的个性化推荐和内容交付。这种类型的个性化人工智能可以更有效地吸引用户，提高他们对与其兴趣产生共鸣的内容和体验的参与度。
减少对云的依赖
虽然云在收集和处理数据方面具有巨大的能量，但它容易受到黑客攻击或中断等威胁，而且在互联网接入有限的地区可能无法使用4。利用边缘人工智能设备减少对云的依赖，不仅能提高其性能，还能增强其安全性，使其免受外部威胁。这也提高了它们在互联网连接有限的情况下的恢复能力，对于偏远地区或网络访问时断时续的环境中的应用尤为重要。
人工智能在本地设备上的挑战
目前存在的一些障碍可能会限制边缘人工智能潜力的充分发挥。这些障碍包括硬件限制、内存要求和电源限制。 人工智能模型，尤其是深度学习模型，通常需要大量内存资源。本地设备的处理能力通常有限，这给实施资源密集型人工智能算法带来了挑战。人工智能计算也很耗电，会影响本地设备的电池寿命。
移动设备在计算资源、内存、存储和功耗方面受到更多限制。因此，设备上的模型需要比服务器上的模型小得多，这可能使它们的功能更弱5。 在功能和资源消耗之间取得平衡是设计人工智能设备的关键挑战。
人工智能在本地设备上的应用前景
尽管存在这些挑战，但硬件设计和优化技术的不断进步正在逐步克服障碍。边缘计算和高能效处理器等技术为实现更高效的本地设备人工智能铺平了道路6。
本地物联网连接设备上的人工智能和计算优势正在重塑技术格局，提供更好的隐私、安全、速度和用户体验。虽然挑战依然存在，但持续的研究和创新正在克服这些障碍。在本地设备上部署人工智能的前景十分广阔，它将开启一个智能设备无缝融入日常生活的新时代。
Ambiq 如何做出贡献
自 2010 年以来，Ambiq 凭借其超低功耗半导体解决方案，成功帮助智能设备执行复杂的推理任务，如边缘人工智能。革命性的亚阈值功耗优化技术（SPOT）平台帮助解决了智能设备制造商在开发复杂的高功耗功能时遇到的功耗限制。因此，开发人员可以期待流畅的性能和一次充电可持续数天、数周或数月的电池寿命。查看Ambiq 的更多应用。
资料来源
1 Edge AI| 2023 年 10 月 7 日
2 计算能力正成为开发人工智能的瓶颈。下面是如何清除瓶颈的方法。 | 2023 年 3 月 17 日
3 通过设备上的人工智能实现个性化 |2023年10月11日
4 云计算中的隐私挑战| 2022 年 12 月
5 为什么说 “设备上的机器学习“？
6 专访 Ambiq 创始人兼首席技术官 Scott Hanson| 2024 年 1 月 4 日
