2390939_zh-CN

はい

如何在MIMRT700板上使用大型数据集评估NPU tflite模型？

我的问题如标题所示。

我有一个 tflite 模型，我把它转换成了 NPU tflite 模型。我检查发现，tflite 模型和 NPU tflite 模型的预测结果在某些情况下有所不同（但差别不大）。因此，我想在大数据集上运行 NPU tflite 模型评估。

目前，我按照示例tflm_cifar10_cm33_core0在 MIMRT700 上运行推理 NPU tflite 模型，并且运行正常。但在本示例中，我们针对静态图像修复了 image_data.h（我没有使用相机）。我想修改这个示例，以用于我的新案例“在大数据集上运行评估 NPU tflite 模型”。

我打算使用 SD 卡保存图像，并在推理时将其加载为 image_data.h。但我不知道该从何说起。

我看到MIMRT700有3个micro USB接口：调试接口、eUSB接口和USB-OTG接口。

如果您有任何建议或意见，请与我分享。如果我手动运行每个镜像（版本+刷写），那将非常耗时。

Re: How to evaluate NPU tflite model on large dataset on MIMRT700 board?

@EdwinHz

谢谢你支持我。

使用SD卡的方法很好。我不擅长硬件，所以采纳了我队友的建议。

我上面提到的这种方法怎么样？

目前我正在按照以下步骤使用样本tflm_cifar10_cm33_core0 进行推理：
-将 image_data.h 复制到样本
- 点击“版本”按钮
- 点击调试按钮，然后点击继续按钮运行推理。
我和我的队友讨论过，如果我可以通过命令行使用命令来运行上述操作（版本和运行推理），那就非常好了。因为如果可行，我可以编写脚本每次修改 image_data.h 文件，构建并运行推理程序，并将推理结果返回到电脑上。您对此有何看法？

我的意思是，如果 NXP 有构建、烧录和运行示例tflm_cifar10_cm33_core0 的指南，我可以更容易地进行自定义。我不太擅长硬件，所以我喜欢这种方法（如果NXP支持这种方法，我可以编写Python脚本，每次生成image_data.h文件，进行编译、烧录、运行并将结果返回到PC，保存为.csv文件）。文件等）。我看到很多其他厂商也支持这种方法（版本、刷写和运行，通过命令行将结果返回到 PC）。我认为恩智浦也支持这种方法。

Re: How to evaluate NPU tflite model on large dataset on MIMRT700 board?

嗨@nnxxpp ，

正如您所提到的，该示例采用了静态头文件方法。然而，对于大型数据集而言，建立一个利用 SD 卡挂载图像的流程会更加合适：

将图片预先加载到 SD 卡上，然后挂载 SD 卡，打开图片列表，并对每张图片执行以下操作：

- 读入输入缓冲区
- 运行 NPU 推理
- 将结果写入“results.csv”文件文件

我们目前还没有示例代码来说明这一点，但您可以参考您正在使用的 tflm_cifar10_cm33_core0，以及 SDK 中的 sdcard_fatfs 示例，该示例已经处理了初始化和卡挂载，并具有 SD 卡使用的所有可用 API。

我建议你运行并理解 sdcard 示例，并测试读取二进制图像文件。然后，将 SD 卡组件添加到 tflm 示例中，导入 SD 卡初始化和 FatFs 代码，最后替换静态的 image_data.h 文件。输入缓冲区，其中包含使用 f_read() 从 SD 卡读取的图像信息。

如果图像已经以张量格式存储，将简化处理过程，并避免使用 JPEG/PNG 解码。

BR，
埃德温。

Re: How to evaluate NPU tflite model on large dataset on MIMRT700 board?

我想补充更多信息。

目前我正在按照以下步骤使用样本tflm_cifar10_cm33_core0 进行推理：

-将 image_data.h 复制到样本

- 点击“版本”按钮

- 点击调试按钮，然后点击继续按钮运行推理。

我和我的队友讨论过，如果我可以通过命令行使用命令来运行上述操作（版本和运行推理），那就非常好了。因为如果可行，我可以编写脚本每次修改 image_data.h 文件，构建并运行推理程序，并将推理结果返回到电脑上。您对此有何看法？太感谢了。

Re: How to evaluate NPU tflite model on large dataset on MIMRT700 board?

我还看到 MIMRT700 有 SD 卡，如果我能轻松地在 SD 卡上找到图像，并将图像加载到tflm_cifar10_cm33_core0并将推理结果保存到 SD 卡上，那就非常好了。

但说实话，我知道该如何开始。我不擅长硬件。