私は量子化された分類モデルを持っています。私はコマンドでNPU tfliteモデルに変換しています
./Neutron-converter \
--入力 QAT.tflite \
--出力QAT_NPU.tflite \
--ターゲット IMXRT700 \
--dump-header-file-output \
--dump-header-file-input \
--use-sequencer
その後、NPUとCPU用の2つの生成モデルヘッダーファイルを使っています。
私はモデル 用に改良したサンプルtflm_cifar10_cm33_core0を使っています。サンプルimage_data.h(入力サイズをモデル化した画像)を使っています。しかし、CPUモードとNPUモードの2つのモデルの最終的な結果は異なります。
- ほぼの場合、予測クラスはほぼ同じ確率で(値による完全一致ではない)
- 場合によっては、2つのモードにおける予測クラスが異なることもあります ==> この問題について何かコメントはありますか? モデルは共有できず申し訳ありません。
サンプルtflm_cifar10_cm33_core0を使用してこの問題を検証しようとしました。しかしこのサンプルにはNPUのtfliteモデルしかなく、もう一方のCPUtfliteモデルは見当たりませんでした。予測結果を異なる画像と比較し、NXPで事前学習されたモデルでこの問題が起きているかどうかを確認したいです。
もしCPUのtfliteモデル(NPUのtfliteモデルtflm_cifar10_cm33_core0に対応している)をお持ちなら、ぜひ教えてください。
tfliteモデルからNPUtfliteモデルへの変換が推論結果の違いをもたらすのか気になっています。
よろしくお願いします。