2025255_zh-CN

[#1]

关于 ASR、TTS 和变压器的建议

你好，我正在 i.MX 93 EVK 上开发一个应用程序。 对于在设备上运行时计算要求相对较低的以下建议，我将不胜感激。我使用的是 i.MX 93 双核 1.7GHz。

我在寻找以下方面的建议

• 在设备上运行时，ASR 引擎具有合理的精度。例如：轻声细语
• TTS 模型
• 设备上的变压器型号，例如Llama 3B。
  
  任何诸如性能比较和建议之类的信息将不胜感激。谢谢

Re: Recommendations for ASR, TTS and Transformer

嘿 Laurent_P您能分享一下如何在 i.MX93 的 NPU 上实现 Whisper tiny.en TFLite 模型吗？我一直在找这个东西，它对我的开发工作大有帮助。我能够将模型转换为 TFLite INT8，但 NPU 并不完全支持所有 Whisper 操作，因此我必须在 CPU 上使用 float32 模型。

谢谢

Re: Recommendations for ASR, TTS and Transformer

你好@QuantumPath

在 i.MX93 上，我们启用了 Whisper ASR（微型、基本型、小型）和 Moonshine ASR（微型和基本型）。

我们将于 7 月中旬首先通过 GStreamer 提供 Whisper ASR 语音插件。

对于 TTS，我们启用了 ViTS TTS。对于 LLM，我们可以运行小型 LLM，如多瑙河 0.5B。

同时，我们在 i.MX95 上运行了完整的 eIQ Gen Al 流程管道（唤醒词、ASR、LLM、RAG、TTS）： https://github.com/nxp-appcodehub/dm-eiq-genai-flow-demonstrator?tab=readme-ov-file