TinyML: アプリケーション、制限、IoT およびエッジ デバイスでの使用

Dec 11, 2023

による

ここ数年、人工知能 (AI) と機械学習 (ML) は、産業界だけでなく学術界でも人気が高まり、その応用が急速に進んでいます。 ただし、今日の ML モデルと AI モデルには大きな制限が 1 つあります。それは、望ましい結果と精度を達成するには、膨大な量のコンピューティング能力と処理能力が必要であるということです。 そのため、多くの場合、その使用は、十分なコンピューティング能力を備えた高機能デバイスに限定されます。

しかし、組み込みシステム技術の進歩とモノのインターネット業界の大幅な発展を考慮すると、ユビキタス インテリジェンスのためにリソースに制約のある組み込みシステムに ML 技術と概念の使用を組み込むことが望ましいです。 ML の概念を組み込みおよび IoT システムに使用したいという要望が、TinyML の開発の背後にある主な動機となっています。TinyML は、複数のリソースに制約があり、電力に制約があり、安価なデバイス上で ML モデルとアプリケーションを可能にする組み込み ML 技術です。

ただし、コンピューティング能力の低いデバイスに ML モデルを実装すると、最適化、処理能力、信頼性、モデルのメンテナンスなどの点で独自の課題が生じるため、リソースに制約のあるデバイスへの ML の実装は簡単ではありませんでした。

この記事では、TinyML モデルをさらに深く掘り下げ、その背景、TinyML をサポートするツール、および高度なテクノロジーを使用した TinyML のアプリケーションについて詳しく学びます。 それでは始めましょう。

モノのインターネット (IoT デバイス) は、ユーザーの近くにあるさまざまなデバイスやネットワークを指すコンピューティング パラダイムであるエッジ コンピューティングを活用して、相互接続された何百万ものセンサーやデバイスからのデータをシームレスかつリアルタイムに処理できるようにすることを目的としています。 IoT デバイスの主な利点の 1 つは、ネットワーク エッジに展開できるため、必要なコンピューティング能力と処理能力が低く、メモリ フットプリントが小さいことです。

さらに、IoT デバイスは、エッジ デバイスがセンサー データを収集し、処理のために近くの場所またはクラウド プラットフォームに送信するため、データの収集と送信にエッジ プラットフォームに大きく依存しています。 エッジ コンピューティング テクノロジは、データを保存してコンピューティングを実行し、分散コンピューティングをサポートするために必要なインフラストラクチャも提供します。

IoT デバイスにエッジ コンピューティングを実装すると、次のことが可能になります。

さらに、エッジデバイスはセンサーとクラウド間の連携技術を導入できるため、データ処理をクラウドプラットフォームで行う代わりにネットワークエッジで行うことができます。 これにより、効果的なデータ管理、データの永続化、効果的な配信、およびコンテンツのキャッシュが実現します。 さらに、H2M または人間と機械のインタラクションや最新のヘルスケア エッジ コンピューティングを扱うアプリケーションに IoT を実装すると、ネットワーク サービスを大幅に改善する方法が提供されます。

IoT エッジ コンピューティングの分野における最近の研究では、いくつかの IoT ユースケースで機械学習技術を実装できる可能性が実証されています。 ただし、大きな問題は、従来の機械学習モデルでは多くの場合、強力なコンピューティング能力と処理能力、および IoT デバイスとアプリケーションでの ML モデルの実装が制限される高いメモリ容量を必要とすることです。

さらに、今日のエッジ コンピューティング テクノロジには、高い伝送容量と効果的な省電力が欠けており、これが異種システムの原因となり、これが主に ML モデルの更新、トレーニング、デプロイのための調和のとれた総合的なインフラストラクチャの要件の背後にある主な理由です。 組み込みデバイス用に設計されたアーキテクチャは、デバイスごとに異なるハードウェアとソフトウェアの要件に依存するため、別の課題が生じます。 これが、IoT ネットワーク用の標準 ML アーキテクチャを構築することが難しい主な理由です。

また、現在のシナリオでは、ネットワーク実装の計算集約的な性質により、さまざまなデバイスによって生成されたデータが処理のためにクラウド プラットフォームに送信されます。 さらに、ML モデルは、データ処理のためにディープラーニング、ディープ ニューラル ネットワーク、特定用途向け集積回路 (ASIC)、グラフィック プロセッシング ユニット (GPU) に依存することが多く、より高い電力とメモリ要件が必要になることがよくあります。 本格的な ML モデルを IoT デバイスに展開することは、コンピューティング能力と処理能力が明らかに不足しており、ストレージ ソリューションも限られているため、実行可能なソリューションではありません。