用 triton_trtllm 部署的模型，推理时如果文本有中文和数字，数字会用英文发音。 #1647
Description
用 triton_trtllm 部署的模型，推理时如果文本有中文和数字，数字会用英文发音。但是用 conda python 部署并用webui.py 脚本推理的结果不会这样，都是中文发音。 请问如何修改让 triton_trtllm 部署的模型在遇到数字时也用中文发音？ 谢谢！
{{ message }}
用 triton_trtllm 部署的模型，推理时如果文本有中文和数字，数字会用英文发音。但是用 conda python 部署并用webui.py 脚本推理的结果不会这样，都是中文发音。 请问如何修改让 triton_trtllm 部署的模型在遇到数字时也用中文发音？ 谢谢！