あなたのデータ あなたのモデル あなたのエッジ
帯域幅や電力の節約から、より応答性の高いリアルタイム性能まで、組み込みアプリケーションにAIを実装することは、一時的な流行ではなく大きなメリットをもたらします。Nordic Semiconductorは、NeutonモデルとAxon NPUという2つの独自技術をお客様に提供し、業界で最も幅広くデバイス、応用、ニーズに応えます。
Neutonモデル
|
Axon NPU
|
|
カスタムNeutonモデルは、特許取得済みのネットワーク成長アルゴリズムを用いて、お客様のデータから構築された超小型のエッジAIモデルです。Nordic SoCまたはSiP上で、メイン アプリケーション コア(CPU)を使用してエッジAIを実行するのに理想的です。
|
Axon NPUはNordicの専用AIアクセラレータコアです。TensorFlow Liteモデルの速度と効率を向上させるために設計されており、Nordicの最高性能SoCに組み込まれています。
|
|
|
1/10
|
10x
|
< 5 KB
|
|
TensorFlow Liteモデルよりも小さなメモリ フットプリント
|
CPU上でTensorFlow Liteモデルを実行するよりも高速で、高い電力効率
|
Nordicのフレームワークで作成されたカスタムNeutonモデルの平均メモリフットプリント
|
|
15x
|
8x
|
7x
|
|
CPU上で同じTensorFlow Liteモデルを実行するよりも高速で、高い電力効率
|
最も近い競合製品より高い電力効率
|
最も近い競合製品より速い推論
|
|
概要
エッジAIについて
エッジAIを使う理由
エッジAIは低消費電力無線アプリケーションに最適です。これは、デバイス上でデータを分析するため、電力消費の大きな無線通信の量を減らせるからです。センサー情報をデバイス上で直接処理することで、ネットワーク トラフィックを減らし、レイテンシを短縮できます。また、接続が不安定であったり、未接続時でも機能できます。このローカル インテリジェンスによりデバイスの復帰頻度を減らし、必要な結果のみ送信することで、小さなバッテリーでも数ヶ月から数年間動作可能です。同時に、デバイスにデータを保存することでプライバシーとセキュリティが強化され、さらに、より迅速で信頼性の高い意思決定が可能となります。
エッジAIとは
エッジAIとは、クラウドの一部ではないハードウェア上で、AIアルゴリズムやニューラルネットワークを実行するという概念です。これには、エッジサーバーやネットワーク インフラから、パワフルなコンピュータ、ノートパソコン、スマートフォン、そしてNordicの超低消費電力SoC内のMCUやそれを使用するデバイスに至るまで、幅広いデバイスが含まれます。通常、NordicでエッジAIといえば、NordicのSoCやSiPに関連するエッジAIのサブセットのみを指します。すなわち、低消費電力無線デバイス上でAIアルゴリズムやニューラルネットワークを実行し、エッジAIをまさにエッジに持ち込むことです。
互いを補う2つの独自技術
エッジAI向けに、Nordic Semiconductorは自社ハードウェアでのみ利用可能な2つの独自技術を提供しています。これらは、別々の使用方法に向けた、別々のハードウェア ターゲットに対応しています。
Neutonモデル
Neutonモデルは、Nordic独自のニューラル ネットワーク フレームワークによって作成された、超小型のエッジAIモデルです。そのサイズと効率性により、Nordic SoCの通常のCPUコアでエッジAIアプリケーションを実行することは、加速度センサー、IMU、PPG、温度センサー、電気計測センサーからの出力などの時系列センサーデータに基づいて、多くのAI課題を解決するための実行可能な選択肢となります。
Axon NPU
Axonは、TensorFlow Liteモデルの速度と効率を向上させるために設計された、Nordicの統合AIアクセラレータです。Axon NPUは、一部のNordic SoCに統合される予定で、より高速な時系列データ、音声や画像の分類タスクに依存するエッジAIの課題解決に適しています。
→ Axon NPUを統合したNordic初の製品、nRF54LM20Bの詳細
自己成長するユニークなニューラルネットワーク
Neutonモデル
Neutonモデルは、Nordic独自のニューラル ネットワーク フレームワークによって作成された、超小型のエッジAIモデルです。そのサイズと効率性により、Nordic SoCの通常のCPUコアでエッジAIアプリケーションを実行することは、多くのAI課題を解決するための実行可能な選択肢となります。加速度センサー、IMU、PPG、温度センサー、電気計測センサーからの出力などの時系列センサーデータを用いるアプリケーションは、Netuonモデルに最適です。Neutonモデルはニューロンごとに成長し、正確で効率的、極小のネットワークを作ります。このため、手作業でのネットワーク アーキテクチャの最適化やユーザー入力が不要となり、不要なニューロンや接続が存在しない独自のニューラルネットワークが作成されます。
→ Nordic Edge AIラボでカスタムNeutonモデルを育てる
DevZoneブログ
カスタムNeutonモデルを使用すると、Nordic SoC上で小型かつ低消費電力のエッジAIが可能となり、データサイエンスの専門知識や豊富な経験がなくても、効率的なエッジAIモデルを構築できます。
→ 詳しい手法をDevZoneブログで読む
製品
Neutonモデル用製品
NordicのすべてのSoCとSiPは、Neutonモデルと互換性があります。
Axon NPU
Nordic独自のAIアクセラレータを内蔵した製品
nRF54LM20B SoC
Axon NPU内蔵の超低消費電力無線SoC。ハードウェアアクセラレータを使ったエッジAIアプリケーション向け。Bluetooth LE、チャネル サウンディング、Bluetooth Mesh、Zigbee、Thread、Matter、Aliro、および2.4 GHzの独自プロトコルに対応。
- 128 MHz Arm Cortex-M33
- 2 MB NVM、512 KB RAM
- 128 MHz Axon NPUを内蔵
- ハイスピードUSB
詳しく
Neutonモデル
カスタムNeutonモデル
エッジAIモデル構築への、よりスマートなアプローチ
課題
従来のニューラル ネットワーク根本的な課題に直面しています。すなわち、手作業によるアーキテクチャ設計を必要とし、しばしば数百万ものパラメータを持った肥大化したモデルを生み出す手法に依存しているということです。データ サイエンティストは、学習率からレイヤーの深さまで、何十もの変数を試行錯誤の中で丹念に調整する必要があります。これはリソースを大量に消費し、かつ正確さに欠ける手法です。
Neutonモデルのソリューション
カスタムNeutonモデルは、根本的に異なるアプローチを取ります。あらかじめ決められた構造から始めるのではなく、ニューラル ネットワークをニューロンごとに成長させ、学習させながら最適なアーキテクチャを自動的に決定します。従来の勾配降下法の落とし穴を回避する、特許取得済みのグローバル最適化アルゴリズムと組み合わせたこの粒状構築プロセスを使うと、精度を犠牲にすることなく、驚くほどコンパクトなモデルを作れます。
結果
最小限の知識で使用できる、完全に自動化されたシステムです。データとターゲット変数を提供するだけで、Neutonは構造作成、交差検証、過剰適合制御を自動的に処理します。このフレームワークは、従来のニューラル ネットワークよりも劇的に小さいモデルを生成します。優れた精度と汎化能力を維持しながら、より迅速な予測とリソースに制約のあるデバイスへの展開が可能です。
Nordic Edge AI Lab
Nordic Edge AI Labは、超効率的なエッジ インテリジェンスへの入り口です。特許取得済みのニューラル ネットワーク フレームワークを採用しており、センサーデータをNordicの超低消費電力SoCやSiPにわずか数分で導入できる、コンパクトで高性能なAIモデルに変換します。データサイエンスの知識や経験は必要なく、良好なデータセットと前向きな気持ちさえあれば、あとはEdge AI Labが処理します。
Edge AI Labのドキュメントはこちら
Nordic Edge AI Labはこちら
ベンチマーク
ベアリング故障検出のケーススタディ
Case School of Engineeringのデータセットを基にモデルを構築
|
総フットプリント
|
LiteRT
|
Neuton
|
Neutonのアドバンテージ
|
|
NVM
|
TinyMLフレームワーク (モデル+推論エンジン+DSP)
|
79.96
|
5.42
|
1/14のサイズのモデル
NVMの総使用量を43%削減
|
|
デバイスドライバとビジネスロジック
|
93.47
|
93.47
|
|
RAM
|
TinyMLフレームワーク (モデル+推論エンジン+DSP)
|
18.2
|
1.72
|
1/10のサイズのモデル
RAMの総使用量を26%削減
|
|
デバイスドライバとビジネスロジック
|
45.69
|
45.69
|
|
推論時間 (µs)
|
55,262
|
1,640
|
33倍高速
|
|
ホールドアウト検証精度
|
0.93
|
0.94
|
0.7%高い精度
|
NeutonモデルとLiteRTモデルの両方をnRF52840上で実行し、同じホールドアウトデータセットでテスト
使用例
予知保全とビル オートメーション システム
ビル オートメーション システムでは、組み込み機械学習を活用して装置の健全性をリアルタイムで監視し、故障を事前に予測できます。これらのシステムは、センサーデータをエッジデバイスで直接分析することで、常時クラウド接続に依存することなく、空調、照明、セキュリティ操作のパターンや異常を検出できます。このアプローチを採ることで、よりスマートで応答性に優れたビル環境を実現する一方、ダウンタイムを短縮し、消費電力量を最適化し、保守費用を削減できます。
各ノードでローカルデータ分析を行うスマートセンサー ネットワーク
スマートセンサー ネットワークは、組み込み機械学習を利用してソースで直接情報を処理するため、レイテンシと帯域幅の要件を低減できます。各ノードは独立してパターンを検出し、ノイズをフィルタリングし、リアルタイムで決定を下せるため、より効率的でスケーラブルなシステムを実現できます。この分散型アプローチは、特に環境モニタリング、産業オートメーション、スマート ビルディングなど、即時の洞察と最小限のデータ送信が重要なアプリケーションにおいて、応答性と信頼性を高められます。
リモコンやウェアラブル デバイスのためのモーションおよびジェスチャー認識
リモコンやウェアラブル デバイスの場合、組み込み機械学習を使うことで、デバイス上で直接モーション データをリアルタイムで解釈できます。組み込みプロセッサ上で軽量MLモデルを実行することにより、これらのデバイスは、常時クラウドにアクセスすることなく、ユーザーのジェスチャーを正確に検出・分類できます。これにより、電力効率とデータ プライバシーを維持しながら、タッチレスでの制御、フィットネス トラッキング、支援技術などのアプリケーションで、直感的かつ低レイテンシーの相互作用が可能となります。
スマートヘルス ウェアラブルのための健康と活動モニタリング
スマートヘルス ウェアラブルは、ますます組み込み機械学習を採用しており、デバイス上で直接生体認証データやモーションデータをリアルタイムで分析できるようになっています。これらのウェアラブルは、バイタルサインを追跡し、異常を検出し、かつ短いレイテンシで身体活動を分類できます。データをローカルで処理することで、ユーザーのプライバシーを向上させ、バッテリー寿命を延長し、即座にフィードバックを提供するため、継続的でパーソナライズされた健康モニタリングや、潜在的な病気の早期発見に理想的です。
デモ動画
Axon NPU
妥協のないエッジAI
長い間、無線IoTデバイスにAI機能を追加することは、バッテリー寿命を犠牲にして性能を選ぶことを意味しました。CPUでのTensorFlow Liteモデル実行はしばしば遅過ぎ、多くのメモリを消費しました。ディスクリートのNPUを追加するとコストと複雑さが増大しました。Neutonモデルを使うとnRF54LシリーズCPU上で効率的なエッジAIを実現できます。しかし、音声、画像処理、高速センサーデータなどの要求の厳しいワークロードには専用のアクセラレータが必要です。
統合AIアクセラレータ
AxonはNordic独自のNPUであり、大容量メモリのnRF54LM20B SoCに統合されています。CPUより最大15倍高速にTensorFlow Liteモデルを使った推論を実行し、最も近い競合無線NPUより最大7倍高い性能と最大8倍優れた効率を実現します。これにより、超低消費電力デバイスで強力なエッジAIを実現できます。
よりシンプルな設計と幅広い可能性
Axon NPUをオンチップに統合することでディスクリート アクセラレータが不要となり、消費電力、BoMコスト、開発の複雑さを低減できます。高速のエッジAIを活用することで、Axonは異常検知や生体認証から音声、キーワード、画像認識まで、幅広いユースケースで業界をリードする電力効率を実現します。
Axon NPU
Nordic独自のAIアクセラレータを内蔵した製品
nRF54LM20B SoC
Axon NPU内蔵の超低消費電力無線SoC。ハードウェアアクセラレータを使ったエッジAIアプリケーション向け。Bluetooth LE、チャネル サウンディング、Bluetooth Mesh、Zigbee、Thread、Matter、Aliro、および2.4 GHzの独自プロトコルに対応。
- 128 MHz Arm Cortex-M33
- 2 MB NVM、512 KB RAM
- 128 MHz Axon NPUを内蔵
- ハイスピードUSB
詳しく
開発ソフトウェア
Nordic Edge AI Lab
Nordic Edge AI Labは、超効率的なエッジ インテリジェンスへの入り口です。特許取得済みのニューラル ネットワーク フレームワークを採用しており、センサーデータをNordicの超低消費電力SoCやSiPにわずか数分で導入できる、コンパクトで高性能なAIモデルに変換します。データサイエンスの知識や経験は必要なく、良好なデータセットと前向きな気持ちさえあれば、あとはEdge AI Labが処理します。
Edge AI Labのドキュメントはこちら
Nordic Edge AI Labはこちら
Edge AI Add-on
nRF Connect SDK向け
nRF Connect SDK向けのEdge AI Add-onを使うと、アプリケーションでカスタムNeutonモデルを使用する際に必要なすべてのコンポーネントを追加できます。このアドオンには、Neutonモデルを使ったアプリケーションで使用するためのnRF Edge AIライブラリと、このライブラリのAPIを使ってNeutonモデルと相互作用を行うサンプル アプリケーションが含まれます。回帰モデル、異常検知モデル、分類モデルなどのサンプル アプリケーションが利用可能です。
Edge AI Add-onのドキュメントはこちら
Edge AI Add-onをダウンロード
一般的なソフトウェア開発
nRF Connect SDK
nRF Connect SDKは、Bluetooth Low Energy、Wi-Fi、セルラーIoT、Bluetooth Mesh、Thread、Zigbee、Matter向け共通ソフトウェア開発キットです。Nordicの全てのnRF52、nRF53、nRF54L、nRF70、nRF91シリーズ無線デバイスに対応しています。
詳しく
nRF Connect for VS Code
nRF Connect for VS Codeを使用すると、VS Code IDE(統合開発環境)でnRF Connect SDKベースのアプリケーションを開発、ビルド、デバッグできます。
詳しく
ML Studio
Edge Impulseの実装
ML Studioは、Edge Impulseプラットフォームを基盤とした組み込みMLモデル作成のためのNordicの代替ソリューションです。
ML Studioへ
始めましょう
Nordic Edge AI Lab
Nordic Edge AI Labは、超効率的なエッジ インテリジェンスへの入り口です。特許取得済みのニューラル ネットワーク フレームワークを採用しており、センサーデータをNordicの超低消費電力SoCやSiPにわずか数分で導入できる、コンパクトで高性能なAIモデルに変換します。データサイエンスの知識や経験は必要なく、良好なデータセットと前向きな気持ちさえあれば、あとはEdge AI Labが処理します。
Edge AI Labのドキュメントはこちら
Nordic Edge AI Labはこちら
作ってみましょう
ジェスチャー認識リモコン
Nordic Thingy:53を使って、サンプルのジェスチャー認識リモコンを実際に再現してみましょう。
→ 独自のアプリケーションを作成する方法は、入門用ドキュメントをご覧ください