こんにちは、NXP チームの皆様、
yolov8m_full_integer_quant.tfliteをimx95 NPUで動作するように変換するには、どのような手順を踏んだのか教えていただけますか？
eIQ Toolkit 1.16ユーザーガイドの「5.8.5 Neutronソフトウェアのサポート対象モデル」で、neutron-converterを介して変換されると報告されていますが、これはNPU上でも実行されるという意味でしょうか、それともimx95のCPU上でのみ実行されるという意味でしょうか？
これまでのところ、NeutronGraphは非常に不正確で、NPU上で実行すると精度が完全に失われてしまう。どのようにして良好なNeutronGraph変換を実現できたのか、教えていただけますか？どのバージョンを使用しましたか？また、どのBSPに対応していますか？
何かご助言いただければ幸いです。
よろしくお願いいたします。
EOF
こんにちは、@Zhiming_Liuさん
ご返信いただき、誠にありがとうございます。yolov8_infer.pyも共有していただけませんか？
変換や後処理のために、何か追加のフラグを使用しましたか？
私が変換したファイル（添付ファイルを参照してください）はあなたのものとは異なっています。私は追加のフラグは使用せず、--input、--output、--targetのみを使用しました。このファイルのint8バージョンはCPU上で正常に動作します。
現在、私はNNStreamerを使用してライブカメラストリーム上で推論を実行しているため、個々の画像ではなくリアルタイムデータを扱っています。
YOLOv8mをNNStreamerと組み合わせて使用したことがあるかどうかもお伺いしたいのですが。その設定を使った経験はありますか？
よろしくお願いいたします。
EOF
こんにちは@EOF
i.MX95 EVKでテストを行いました。テスト環境は以下のとおりです： i.MX95 B0 、 L6.18.2 、 eiq-neutron-sdk-windows-3.0.1
root@imx95evk:/usr/bin/tensorflow-lite-2.19.0/examples# python3 yolov8_infer.py --img zidane.jpg
/usr/lib/python3.13/site-packages/tflite_runtime/interpreter.py:457: UserWarning: Warning: tf.lite.Interpreter is deprecated and is scheduled for deletion in
TF 2.20. Please use the LiteRT interpreter from the ai_edge_litert package.
See the [migration guide](https://ai.google.dev/edge/litert/migration)
for details.
warnings.warn(_INTERPRETER_DELETION_WARNING)
INFO: NeutronDelegate delegate: 2 nodes delegated out of 27 nodes with 2 partitions.
INFO: Neutron delegate version: v1.0.0-7399a58e, zerocp enabled.
INFO: Neutron delegate version: v1.0.0-7399a58e, zerocp enabled.
INFO: Created TensorFlow Lite XNNPACK delegate for CPU.
Inference time: 124.70 ms
出力画像:
よろしくお願いします、
志明
