NXP Semiconductors / AIアクセラレータ（ディスクリートNPU / DNPU）

Ara240：ディスクリート・ニューラル・プロセッシング・ユニット (DNPU)

NXPは、AI対応の組込み/コンピューティング向けにディスクリートNPU『Ara240』を提供し、生成AI/LLM/VLMを最大40 eTOPSで低レイテンシ実行します。

特長

サポートされるAIモデル・フレームワーク	TensorFlow PyTorch ONNX
サポートされるAIモデル・アーキテクチャ	畳み込みニューラル・ネットワーク (CNN) トランスフォーマ・モデル大規模言語モデル (LLM) マルチモーダル言語モデル (MMLM) 視覚言語モデル (VLM) 視覚言語アクション (VLA)
性能	Llama2-7B: 14 output tokens/sec ResNet34: 660 IPS YOLOv8n: 313 IPS 最大40 eTOPS (equivalent Tera Operations Per Second)
セキュリティ	セキュア・ブート RoT (Root of Trust) プロセッサ
メモリ・インターフェース	最大16 GBのLPDDR4 (Low-Power Double Data Rate 4)
オペレーティング・システムのサポート（ランタイム）	Linux Windows
ホスト・インターフェース	4レーンPCIe (Peripheral Component Interconnect Express) Gen4 USB 3.2 Gen 1
消費電力（Typical）	6.5 W
チップ・パッケージ	17 mm x 17 mm FCBGA (Flip-Chip Ball Grid Array)

NXP インテリジェントエッジAI プラットフォーム

NXP インテリジェントエッジAI プラットフォームは、アプリケーションプロセッサ i.MX とディスクリートAIアクセラレータ Ara DNPU を中核に、制御処理と高性能AI推論を柔軟に組み合わせたエッジAI基盤です。
生成AIや画像認識、マルチモーダルAIなどの高度なAI処理をオンデバイスで実行することで、低レイテンシかつ高いデータプライバシーを実現し、産業機器・ロボティクス・スマートHMIなど、リアルタイム性と信頼性が求められる用途において、拡張性の高いインテリジェントエッジシステムの構築を支援します。

NXP インテリジェントエッジAI プラットフォーム

ソフトウェア

● Araソフトウェア開発キット
Ara AIソフトウェア開発キット (SDK) は、Ara-1およびAra-2ディスクリート・ニューラル・プロセッシング・ユニット (DNPU) およびモジュールへのAIモデルの導入を効率化します。
畳み込みニューラル・ネットワーク (CNN)、大規模言語モデル (LLM)、視覚言語モデル (VLM) など、さまざまなモデル・アーキテクチャをサポートする拡張可能なコンパイラを備えています。
このSDKを使用することにより、効率的なデータフロー最適化、柔軟な量子化方法、複数のデータ型のサポートを通じて、エッジAIアプリケーションの高パフォーマンスと低レイテンシを確保できます。
● エンドツーエンドのモデル開発と展開のためのeIQ^® Toolkit
　eIQ Toolkitは、直感的なGUI (eIQ Portal) とコマンドライン・ホスト・ツールにより、NXP EdgeVerseプロセッサ上での機械学習の開発をより迅速かつ容易にします。

・Araソフトウェア開発キット（メーカー製品サイト）
・eIQ^® Toolkit（メーカー製品サイト）