支持多个音频批次推理吗 about funasr HOT 4 CLOSED

@LauraGPT 看了使用文档都是cpu推理呀没看到gpu，我理解就是弄多个模型实例多线程。我说的是gpu推理在一个模型实例进行多批次呀，就好比图像识别，想办法让n张图的shape一致都是(1,3,h,w)，就可以进行一次推理，此时输入为(n,3,h,w)

You could inference with batch via pytorch, such as: https://github.com/alibaba-damo-academy/FunASR?tab=readme-ov-file#speech-recognition-non-streaming

from funasr.

www.funasr.com

from funasr.

@LauraGPT 看了使用文档都是cpu推理呀没看到gpu，我理解就是弄多个模型实例多线程。我说的是gpu推理在一个模型实例进行多批次呀，就好比图像识别，想办法让n张图的shape一致都是(1,3,h,w)，就可以进行一次推理，此时输入为(n,3,h,w)

from funasr.

将多个音频文件作为一个list传给input，可以推理，但是推理耗时表明内部实现是一个个音频串行推理

from funasr.