2388484_ja-JP

cancel
Showing results for 
Show  only  | Search instead for 
Did you mean: 

2388484_ja-JP

2388484_ja-JP

ARA240(.dvm)用のカスタムONNX/TFLiteモデルをコンパイルする方法は?(搬送波はi.MX95 FRDMを使用しています)

私はi.MX95 FRDMのARA240 M.2アクセラレータを評価しています。

ランタイムは正常に動作しています。


  • ARA240はPCIe経由で検出されます。
  • nnapp は提供された .dvm を正常に実行しますモデル.
  • ランタイムSDKs(rt-sdk-ara240)とPython DVAPIバインディングがインストールされています。


しかし、自分でMobileNetモデルを展開したいのですが、モデルを.dvmにコンパイルするためのツールチェーンが見つかりません形式。

私の質問は以下のとおりです。

  • カスタムONNX/TFLiteモデルを.dvmにコンパイルする際のサポートワークフローは何ですか?ARA240用ですか?
  • Ara2コンバータ(またはdvconvert/dvnc)は公開されているのか、それともRuntime SDKsとは別に配布されているのか?
  • NXPがサポートするカスタムCNNモデルを展開する方法はありますか(例:MobileNet) を ARA240 に移植する際に、私が見落としている点はありますか?

どんなガイダンスやドキュメントでも大変ありがたいです。

よろしくお願いします!





Re: How to compile custom ONNX/TFLite models for ARA240 (.dvm) ?(carrier being used i.MX95 FRDM)

CNNモデルには、公式ウェブサイトからダウンロードできるAra2ランタイムパッケージが役立つかもしれません

Ara240のランタイム環境を提供します。Ara240モジュール上で事前コンパイルされたCNNおよびGenAIモデルをダウンロードし実行するためのスクリプトを提供します。ご質問への回答は、下記のAIによる回答をご参照ください。お役に立てれば幸いです。

===========================================================================

まず、重要な背景説明から始めましょう。

ARA240(旧名:キナラ・アラ2).dvm= Kinara DNN 仮想マシンのバイナリモデル、このDNPU用の独自のコンパイルされたグラフ形式。

rt-sdk-ara2 (target runtime + DVAPI) ≠ コンパイラツールチェーン.

i.MX95には推論ランタイムのみがインストールされています。オフラインモデルコンパイラは別のソフトウェアです。
1. サポートされているワークフロー: ONNX / TFLite → .dvm
公式なエンドツーエンドの流れ:
PyTorch/TensorFlow → ONNX / TFLite
→ Ara2オフラインコンパイラ(dvconvert / dvnc、Ara2コンバーター)
→ 量子化(MobileNetのようなCNNではint8推奨)
→ 最適化された.dvmバイナリ
→ .dvm を i.MX95 FRDM にデプロイする
→ PCIe経由でARA240にDVAPI / nnapp / libaraclientをロードして実行する

重要な制約:コンパイルはi.MX95ターゲットボード上で実行できません。

コンパイラはホスト側のLinux x86_64ツールチェーンで、外部のPC/ワークステーション上で実行されます。
2. dvconvert / Ara2 Converterは公開されているのでしょうか?
いいえ。コンバーターは一般にダウンロードできません。
NXP GitHubでホストされているrt-sdk-ara2 Debianパッケージには、ターゲットランタイム、DVAPI Pythonバインディング、事前構築済みのデモ.dvmのみが含まれていますモデル.コンパイラバイナリは含まれていません。
Ara2コンパイラスイート(dvconvert、dvnc)はNXPの制限付きソフトウェアアクセスのもとで別途配布されています。
このツールチェーンはキナラに起源を持ち、NXPがキナラを買収した後は、NXPの営業/CAS(お客様アプリケーションサポート)を通じてアクセス管理が行われました。
3. NXPが公式にサポートするカスタムCNN(MobileNet)の導入方法はありますか?
はい、ただしAra SDKコンパイラへのアクセスを正式に申請する必要があります:
コンバータを入手するための公式なルート
お近くのNXP FAE / NXP CASサポートチケットにお問い合わせください:

ハードウェア: FRDM i.MX95 + ARA240 M.2 DNPU

リクエスト:カスタムONNX/TFLite CNNコンパイルを.dvmにするためのAra SDKオフラインモデルコンパイラ(dvconvert)へのアクセス
制限付きAraツールについてはNXPのソフトウェアライセンス契約に署名する必要があります。
NXPは当初、更新されたeIQ Toolkit(2026年中頃予定)と並行してより広範なリリースを計画していました。現在はサポートされている評価お客様向けにゲートされています。
ツールアクセスを待つ間の回避策と代替案
カスタム.dvmは生成できませんdvconvertを使用せずにローカルで実行します。ARA240.dvm用のオープンソースのサードパーティ製コンバーターは存在しません。
オプションA:早期アクセス評価の一環としてNXPのエンジニアリングサポートにモデルコンパイルを依頼する。
オプションB:一時的にワークロードを分散:未コンパイルのONNXをi.MX95オンボードeIQ Neutron上で実行し、Araコンパイラへのアクセスを待つ間に実行します(これはARA240へのオフロードなし)。
注意:i.MX95の内蔵Neutron NPU(.neutronモデル)と外部のARA240 DNPU(.dvm)を混同しないでください。彼らは完全に互換性のないバイナリフォーマットを使っています。
4. 避けるべき主な落とし穴
rt-sdk-ara2内にはPaddle2ONNX / ONNXコンバーターユーティリティはありません。
事前に構築されたデモ用.dvmファイルSDKに付属して配布されたファイルは、変換ロジックを抽出するためにリバースエンジニアリングすることはできません。
現在、ARA240用のウェブベースのモデルコンバーターは利用できません。
MobileNet v1/v2は、ツールチェーンを入手すればdvconvertによって完全にサポートされるアーキテクチャです。ONNXがクリーンアップされていることを確認してください(未使用のノードを削除し、入力形状を固定し、標準演算のみを使用する)。
NXPサポートチケットに直接送る提案文言
FRDM i.MX95上でARA240 M.2モジュールを評価しています。PCIe列挙、サンプル.dvmを提供実行、rt-sdk-ara2、DVAPIは機能します。カスタムMobileNet ONNXモデルを.dvmにコンパイルするには、Ara2オフラインコンパイラ(dvconvert/dvnc)へのアクセスが必要ですバイナリ。ホスト側のAra SDKモデル変換ツールチェーンを取得する手順を共有してください。

Tags (1)
No ratings
Version history
Last update:
Wednesday
Updated by: