利用 compressionKIT™ 解决 Always-on 边缘 AI 的内存挑战

情报边缘博客

    推理固然重要,但持续的传感器数据却会限制内存、带宽和功耗。compressionKIT™ 从源头减少数据量,从而实现更高效、可扩展的边缘 AI 系统。

    Ambiq compressionKIT 1200 х 800
    利用 compressionKIT™ 解决 Always-on 边缘 AI 的内存挑战 7

    过去几年,边缘 AI 的发展极大地提高了推理效率。曾经需要服务器级硬件才能运行的模型,如今已经能够在端侧芯片上运行,只需纽扣电池级别的功耗,就能在几毫秒内完成推理。

    但还有另一个较少被关注到的成本来源:持续传感器数据处理所带来的系统开销。

    Always-on 设备不仅运行推理,还会持续不断地产生数据。智能手表传输PPG数据时,不会在心跳间隙暂停;ECG 贴片也不会进入休眠状态。智能戒指、可穿戴音频设备以及其他传感器都会持续生成需要存储、传输或处理的数据。

    这也带来了系统层面的负担:

    • 本地存储的数据会迅速填满有限的内存
    • 无线传输的数据会成为功耗的主要来源
    • 发上传至云端的数据会增加带宽和基础设施成本

    在大规模部署下,这些成本会随着数百万台设备持续累积,而且往往与运行推理本身的成本相当甚至更高。

    compressionKIT Ambiq 针对这一挑战推出的解决方案。这是一款基于 AI 的压缩编解码技术,可在数据被存储、传输或分析之前,在源头压缩连续的传感器数据流,同时保留后续处理所需的信号结构。欢迎观看我们的演示视频,或阅读下方的技术概述。

    compressionKIT™ 的工作原理

    compressionKIT 使用基于真实信号条件训练的模型,将原始传感器数据编码为更紧凑的数据表示形式。与传统固定数学变换方式不同,它能够学习信号中哪些部分包含关键有效信息,并在压缩过程中优先保留这些特征。

    解码器则会根据选定的压缩等级重建信号——可从接近无损到高压缩比的数据表征,同时依然保留后续处理所需的核心波形结构。

    压缩率与信号保真度的平衡控制

    compressionKIT™ 支持可调节的压缩率,目标范围从 2倍 到 16倍(结合熵编码最高可达约 20倍)1。随着压缩率提升,数据量会进一步减少,但同时也会引入一定程度的重建误差。

    我们使用 PRD(Percent Root-Mean-Square Difference,均方根误差百分比)来评估这种权衡关系,用于衡量重建后信号与原始信号之间的偏差程度:

    • 2 倍压缩:误差约为 4.8%,视觉上与原版无异
    • 更高压缩等级:误差会相应增加,但核心信号结构依然能够保持完整

    这使开发者能够根据具体应用需求,在数据大小信号质量系统资源限制之间选择最合适的平衡方案。

    image 5
    利用 compressionKIT™ 解决 Always-on 边缘 AI 的内存挑战 8

    在 16倍压缩率下,误差会提升至约 11%,但基础信号结构依然保持完整,可将传输数据量减少约 95%,并显着降低系统功耗。

    image 7
    利用 compressionKIT™ 解决 Always-on 边缘 AI 的内存挑战 9

    由于 BLE(蓝牙低功耗)传输通常是可穿戴设备中最大的功耗来源之一,因此减少数据量能够直接延长电池续航时间。对于信号保真度要求极高的应用,例如临床级可穿戴设备与诊断贴片,较低的压缩率设置可将误差控制在 5% 以下,同时显著降低带宽与内存占用。

    兼具降噪能力的压缩技术

    AI 编解码技术的一大优势,在于其能够有效处理噪声。

    传统编解码器会压缩信号中的所有内容——包括有意义的结构和不需要的伪影。相比之下,compressionKIT 使用包含各种噪声条件的真实世界数据进行训练,使其能够区分值得保留的信号特征和可去除的噪声

    因此,压缩和去噪在一次处理中即可完成——无需额外的处理或计算。

    在现场演示中,向输入的PPG信号中添加基线漂移和高斯噪声,会产生明显失真的波形:

    image 3
    利用 compressionKIT™ 解决 Always-on 边缘 AI 的内存挑战 10

    重建后的输出信号依然保持清晰稳定:

    image 4
    利用 compressionKIT™ 解决 Always-on 边缘 AI 的内存挑战 11

    无需额外的降噪处理,也无需额外的计算资源,编解码器即可同时完成压缩与降噪。对于在实际应用环境中运行的可穿戴设备而言,运动伪影与电气干扰始终存在,因此与传统的固定变换式压缩方案相比,这种方式具有明显的优势。

    灵活的部署方式

    compressionKIT 支持两种实现路径:一种是结合 DSP 与 ML 的混合方案,可实现高效的端侧部署;另一种则是AI 优先的神经压缩模式,用于实现更高的数据压缩率。

    这些压缩后的数据表示形式可应用于多种场景:

    • 直接在设备上对压缩数据进行推理
    • 压缩后上云以进行更深入的分析和模型优化
    • 云、边、端结合,平衡延迟、功耗和算力

    这种灵活性对于构建长期健康监测与传感应用的团队来说尤其重要。

    连续传感器数据在大规模部署下,不仅存储成本高昂,传输效率也相对较低。compressionKIT™ 通过在源头压缩数据,能够以更低的存储与带宽成本,实现长达数周甚至数月的连续数据记录。

    设备端性能

    compressionKIT 提供一个实时可视化仪表板,可通过 USB 直接从 Ambiq 硬件端串流数据,让开发团队能够使用自己的设备,即时评估压缩与重建后的信号表现,而不仅仅依赖预先录制的数据集。

    典型性能表现(演示):

    • 编码延迟:4.1毫秒
    • 功耗: 31.7 mW / 单次推理
    • 内存占用:~21 KB
    image 6
    利用 compressionKIT™ 解决 Always-on 边缘 AI 的内存挑战 12

    借助如此轻量化的规模,compressionKIT 能够以极低的系统负担整合至现有的传感器处理流程中,对系统调度与资源预算的影响极小。

    信号支持与应用前景 

    compressionKIT 反映了边缘 AI 的一个重大转变趋势:优化的不仅仅是推理能力,而是从传感器采集到最终洞察的整个数据处理链路。

    通过降低持续数据流在内存、带宽与功耗方面的成本,compressionKIT™ 让 Always-on 系统更具实用性,并使大规模、长时间连续监测成为可能。

    这一能力适用于多种应用场景,包括:

    • 生理信号(PPG、ECG)
    • 运动传感(加速度计)
    • 音频及其他连续数据流
    • 新兴的多模态边缘 AI 系统

    当前版本主要针对 PPG、ECG 与加速度计数据进行压缩处理,这些都是可穿戴设备中最常见的信号类型。

    compressionKIT 目前仍处于 Beta 测试阶段,Ambiq 正与早期合作伙伴携手,利用真实世界的传感器数据与产品限制条件来评估其性能。

    compressionKIT通过解决“数据成本”(而不仅仅是推理成本)问题, 正助力边缘 AI 从单一应用场景迈向可规模化的、全天候的智能应用系统。

    欲了解更多有关 compressionKIT™ 的信息,请阅读我们的新闻稿并访问官方网站

    ¹ 基准测试假设原始数据以未压缩方式传输,结果在 Apollo510 平台上使用双通道 PPG 数据测量,采样频率 64 Hz , 采样窗口4 秒。报告的压缩效果结合了 compressionKIT™ 模型提供的固定 16倍 压缩率和动态熵编码技术,在一分钟数据中可实现高达20倍的平均压缩率。20倍 的数据压缩比并非固定值,实际结果可能会有变化。

    订阅新闻通讯

      准备下载