前回の記事で、3つの強力な追い風が3つの困難な向かい風にぶつかっていることを説明したが、これはエッジAIにとって何を意味するのだろうか？これだけの逆風が吹いていれば、まともな船乗りなら港にとどまるように言うだろう。トレンドを予測するのは難しいが、私が挑戦してバカを見るリスクを冒すほどではない。
目に見えないAI改良機能
予測1：エッジデバイスの内部機能を微調整する新しい「見えない」モデルが普及する。
上述した制約を考えると、AIがエッジでできることは、単純な（しかし賢い）音声認識、音声や画像の分類、アクティビティや健康状態のモニタリング、産業用センサーのモニタリングなど、投資を促すほど普及しているものはほんの一握りだ。
エンドユーザーには部分的にしか見えないが、AIができることは他にもたくさんある。 例えば、こうだ、 AIを使えば、あなたがいる部屋のタイプを検知し、それを使って通話中のノイズキャンセリングをより効果的に調整することができる。 T発信者は、AIが関与していることを知らずに、音質の良い通話に気づくだけだ。 このような「物理学に近い」モデルの多くは、膨大なデータセットを必要としない。その代わり、シミュレーション、強化学習、ゼロショット学習、数ショット学習などの技術をモデルの訓練に使うことができる。
AIモデルの改良が進む
予測2：既存のモデルは改良と機能追加を続ける。
前述したように、現在のモデルのほとんどは、センサーから推測できる情報に関して多くのことを置き去りにしている。 例えば、歩き方のバランス、好みの歩き方など、歩き方からその人の健康状態を知ることができる。 ほとんどのモデルは、データセットが現在そこにないため、これを試みていないが、データはそこにある。 スマートウォッチを装着しているすべての人が潜在的なデータソースであり、時計メーカーはそのごく一部のデータを収集するだけで、驚くべきデータセットを構築することができる。 データをボランティアで提供してくれる人を見つけることが問題で、現在、いくつかの大手メーカーがそうしている。
エッジAIとは？
一般的に、コンシューマー機器、産業機器、セキュリティ機器においてユーザーがAIと対話する場合、AI処理のごく一部のみがローカルで行われ、「力仕事」はクラウドに委ねられている。 これは理想的とは言えない。なぜなら、すべてのデータを往復させることは、エネルギーを消費し、待ち時間を増やし、潜在的にプライベートなデータを公開することになるからだ。
エッジAIはそうした問題を解決するためのものだ。 これは、クラウドと常に通信する必要がなく、組み込みシステム上で完全にローカルに動作するAIのことで、プライバシーとセキュリティを高めながら、電力と時間を節約する。 Ambiqの低消費電力は、バッテリー寿命を損なうことなく、より多くのAIをローカルで実行できることを意味する。
エッジAIを有用性と価値の新たなレベルへと押し上げる追い風については、これまでにも何度か書いてきたが、以下に改めて触れておこう。 それでも、逆風が吹いていることも理解しておく必要がある。 潜在的な脅威と機会が組み合わさることで、エッジAIは混乱した非直線的な状態に置かれ、ある分野では多くの進歩が見られるが、他の分野ではあまり見られない。
より効率的なAI導入
予測3：2023年には、高効率のAIランタイムが成熟し、採用される。
AIは、モデル定義を理解し、それをデバイス上で実行するコードの一部である「ランタイム」を介してデバイス上で実行される。 最も人気のあるランタイムは、"Tensorflow Lite for Microcontrollers" (TLFM)である。TLFMは、質問やサポートのために利用できる開発者の大規模なエコシステムがあり、多くのツールが構築されているため、デバイス上でモデルを立ち上げて実行するのに最適な方法である。 残念なことに、優れたコーダーが手作業で作成できるもの（Ambiq®が音声認識モデルコレクトNNSPのために作成したもの）と比較すると、TLFMはあまり効率的ではありません。 しかし、AIモデルを手作業でコーディングするのは難しい*ので、開発者はTFLMに固執する傾向がある。
AIモデルをC言語などの「コンパイル可能な」言語に変換するツールだ。 これらは効率的なランタイムと組み合わされ、TFLMの何倍もの速さでモデルを実行する。 このようなソリューションはいくつかあるが、TFLMほど広く採用され、幅広い支持を得ているものはない。
結論
エッジ製品にAI機能を追加することは、トレードオフの練習になる。AIはリソース集約型であることで有名で、膨大なCPUサイクル、メモリ、電力を消費する。 Ambiqでは、エネルギー効率にこだわっており、このこだわりにより、CPUベースの推論ベンチマークの結果では、大きな差をつけて業界トップの電力効率を実現しています。 あらゆるエッジ・デバイスのAI要件に対して、精度、パフォーマンス、消費電力のバランスをとりながら、最適な結果を提供するために、ハードウェアとソフトウェアを意図的に連動するように構築しています。
Ambiqは、超低消費電力イノベーションを推進することで、世界的に最も注目される人工知能（AI）テクノロジー企業の1つに成長した。 2022年7月、Ambiqは以下を発表した。 neuralSPOTを立ち上げ、バッテリーの電力制約の中で電子機器の人工知能を実現する。 これまでは消費電力の問題で不可能だったIoTエッジデバイスは、音声認識、アクティビティ検出、リアルタイム分析など、高性能なAI機能を実現できるようになった。
neuralSPOTには、最新のApollo4 Plusや Blue PlusSoCなど、AmbiqのプラットフォームにAIモデルを搭載するために必要なすべてが含まれている。SDKは、センサーと通信するためのライブラリ、SoC周辺機器の管理、電力とメモリーの制御設定、ノートパソコンやPCからAIモデルを簡単にデバッグするためのツール、そしてすべてを結びつけるサンプルで構成されています。
モデルはAIの心臓部であるため、実用的なエッジAIを実現するために、Ambiqは以下のモデルも作成しました。 モデルズーオープンソースのエッジAIモデル集で、モデルをゼロから開発するために必要なすべてのツールがパッケージ化されています。 センサーとの通信、SoCペリフェラルの管理、電源やメモリー構成の制御、ラップトップやPCからモデルを簡単にデバッグするためのツール、そしてすべてを結びつけるサンプルなどのライブラリーがある。 neuralSPOTには、オーディオ、i2c、USBペリフェラル、電源管理、およびプロセス間通信やメモリ管理などの多数のヘルパー機能用のAmbiq固有の組み込みライブラリが含まれています。 データの専門家、AIの専門家、アプリケーションの専門家など、さまざまな役割を担うAI開発者に、シンプルでエレガントなツールが初めて力を与えることができる。
詳細については、Ambiq AI - Ambiq Supercharging edge AIをご覧ください。
