2178860_ja-JP

是

eiQ Toolkit TFLiteコンバータがエラーメッセージなしで失敗する

オブジェクト検出モデルを、int8 量子化を使用して tensorflow から tflite に変換しようとしていますが、コンバーターがエラーメッセージなしで失敗します。また、モデルツールはモデルを h5 でのみロードでき、keras v3 または saved_model としてロードすることはできません。

最近、このツールで成功したという投稿を見たことがあるのですが、何が問題なのかわかりません。関係があるのなら、モデルは Ultralytics の yolov8 です。

どのような洞察でもいただければ幸いです。

電子GUI

Re: eiQ Toolkit TFLite Converter failing without error message

こんにちは、

モデルが、TFLite ビルトインでネイティブにサポートされていない TensorFlow 演算子を使用する場合は、 tf.lite.OpsSet.SELECT_TF_OPSを有効にし、i.MX 上の TFLite ランタイムで Flex デリゲートが使用可能であることを確認します。

パフォーマンスと精度:

完全整数量子化は、8ビット整数に最適化されたハードウェア（i.MXのNPUなど）において、モデルサイズを大幅に削減し、推論速度を向上させることができます。ただし、モデルの精度への影響を慎重に評価し、必要に応じて代表データセットまたは量子化戦略を調整してください。

int8 への変換については、アプリノート AN13699 を参照してください。

https://www.nxp.com/docs/en/application-note/AN13699.pdf

よろしくお願いします。