2177357_zh-CN

Yes

使用 Neutron 运行 eiq_genai_flow 时的输出错误

你好

在使用 eiq_genai_flow 和 Neutron 时，我们得到了乱码 LLM 输出（请参阅下面的输出日志）

root@imx95-var-dart:/home/dm-eiq-genai-flow-demonstrator/eiq_genai_flow# ./eiq_genai_flow --use-neutron --output-mode text
Target Device: i.MX95
[NeutronEP:Allocator] CMA userspace memory 1536 MB
Neutron: kernel buffer vaddr 0xfffe37600000, paddr 0xffff80000000, align_addr 0xffff80000000, size 0x80000000 alignment 0x0
high 0xffff, low 0x80000000, offset 0x0
[NeutronEP:Allocator] 0 0xfffe37600000 512 MB
[NeutronEP:Allocator] 1 0xfffe57600000 512 MB
[NeutronEP:Allocator] 2 0xfffe77600000 512 MB
2025-03-06 18:56:15.903541867 [W:onnxruntime:, session_state.cc:1168 VerifyEachNodeIsAssignedToAnEp] Some nodes were not assigned to the prefer
red execution providers which may or may not have an negative impact on performance. e.g. ORT explicitly assigns shape related ops to CPU to im
prove perf.
2025-03-06 18:56:15.903631201 [W:onnxruntime:, session_state.cc:1170 VerifyEachNodeIsAssignedToAnEp] Rerunning with verbose output on a non-min
imal build will show node assignments.
LLM used: danube-onnx

Please type your question:
who are you ?
utatMAGESgewwiequantfrag morteasiNSermńskiCMangleshalten JahrhundertTRAN pró身atinPCMorem südanes tijdfolg relativeifontанTEMPńskaneGTH когда s
iскоutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatuta
tutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutatutat[...]

Neutron 内核缓冲区地址与 github 上的截图不同 :https://github.com/nxp-appcodehub/dm-eiq-genai-flow-demonstrator/blob/main/assets/run_neutron_demo.p...

下面是与 Neutron 相关的 dmesg 输出：

root@imx95-var-dart:~/eiq_genai_flow# dmesg | grep -i neutron
[    0.000000] OF: reserved mem: initialized node neutron_memory@100000000, compatible id shared-dma-pool
[    0.000000] OF: reserved mem: 0x0000000100000000..0x00000001ffffffff (4194304 KiB) map reusable neutron_memory@100000000
[    2.313294] remoteproc remoteproc0: neutron-rproc is available
[    4.986961] neutron 4ab00004.imx95-neutron: Adding to iommu group 8
[    4.993755] neutron 4ab00004.imx95-neutron: assigned reserved memory node neutron_memory@100000000
[    5.003367] neutron 4ab00004.imx95-neutron: created neutron device, name=neutron0

在 Neutron 中使用 eiq_genai_flow 是否需要特殊配置？

此致，

Herve

Re: Output error running eiq_genai_flow with Neutron

你好，皮埃尔、

感谢您对 Neutron 的意见。我们将等待电路板支持包补丁。

在eiq_genai_flow上启用 ASR 时，我们还遇到了 Alsa 问题。我早些时候在列表中发布了相关信息。您能调查一下吗？

谢谢，并致以最崇高的敬意、

Herve

Re: Output error running eiq_genai_flow with Neutron

你好，埃尔韦、

不幸的是，由于电路板支持包中包含不兼容的中子固件，当前的软件包无法在i.MX95 B0上运行中子。但是，您仍然可以在 CPU 模式下使用该代码包而不会出现任何问题。

我们正在积极开发计划于2025年底发布的新版本，该版本将支持更多平台并引入更多功能。中子支持将在该版本中恢复，敬请期待！

再次感谢，并致以最崇高的敬意，
Pierre

Re: Output error running eiq_genai_flow with Neutron

你好，Hervé,
感谢您的意见。经过检查，我们可以确认此版本中确实存在Neutron问题。我们目前正在调查并制定解决方案，我们会尽快给您回复。
对造成的不便深表歉意，并感谢您的耐心等待。
致以最诚挚的问候，
Pierre

Re: Output error running eiq_genai_flow with Neutron

你好，皮埃尔、

以下是有关我们工作环境的信息。

顺祝商祺！

埃尔韦

root@imx95-var-dart:~# uname -a
Linux imx95-var-dart 6.12.20-var-lts-next-g4bffdb611345 #1 SMP PREEMPT Sat Aug 9 08:08:38 UTC 2025 aarch64 GNU/Linux

 root@imx95-var-dart:~# md5sum /lib/firmware/Neutron*
a4893808e8927b56be8461cdf7678927 /lib/firmware/NeutronFirmware.elf
eb22f5ebd105e780cad87162f4a069a8 /lib/firmware/NeutronFwllm.elf

Re: Output error running eiq_genai_flow with Neutron

你好，埃尔韦、

请问你能分享一下你正在使用的电路板支持包版本吗？

uname -a

另外，能否分享一下 Neutron 固件的 md5sum？

md5sum /lib/firmware/Neutron*

谢谢，并致以最崇高的敬意、

皮埃尔

Re: Output error running eiq_genai_flow with Neutron

你好，皮埃尔、

我们使用的 i.MX95 版本是 B0。

.NET的输出

cat /sys/devices/soc0/revision

是 2.0

顺祝商祺！

埃尔韦

Re: Output error running eiq_genai_flow with Neutron

你好，埃尔韦、

感谢您的联系！

根据您的描述，您的 i.MX95 SoC 很可能不是2.0版（B0）。运行以下命令即可确认：

cat /sys/devices/soc0/revision

如果输出显示的是1.x版本（Ax），不用担心，您只需使用相应的v1.x Neutron 固件即可。你可以在代码包中找到它，它应该替换 L6.12.20 电路板支持包。中包含的现有 /lib/firmware/NeutronFwllm.elf 文件。

如果问题得到解决，或者您需要进一步帮助，请告诉我。

感谢并致以最崇高的敬意，
Pierre