HeliaAOT
超高速ニューラル推論

HeliaAOTは、LiteRTモデルを高度に最適化されたスタンドアロンC推論モジュールに変換する先行コンパイラであり、ambiqの超低消費電力SoC向けにカスタマイズされています。 コンパクトで、効率的で、人間が読めるCコードをランタイムオーバーヘッドゼロで生成し、エッジでの電光石火の速さと電力効率に優れたAIを可能にする。
HeliaAOTは、LiteRTモデルを高度に最適化されたスタンドアロンC推論モジュールに変換する先行コンパイラであり、ambiqの超低消費電力SoC向けにカスタマイズされています。 コンパクトで、効率的で、人間が読めるCコードをランタイムオーバーヘッドゼロで生成し、エッジでの電光石火の速さと電力効率に優れたAIを可能にする。
HeliaRTレベルの推論速度を小さなパッケージで実現-HeliaAOTはMLPerf Tinyモデルのメモリフットプリントを最大2.6倍削減。