修复了 流式输出问题 OpenAI 新增了参数chat_template_kwargs: {enable_thinking: false,}, 解决了链接本地vLLM部署的AI时,默认思考的问题,以及流式输出 Failed to Fetch问题。 链接为:[https://mp.weixin.qq.com/s/xoOk0-H-oBZ3lHdWi3h2GQ](https://mp.weixin.qq.com/s/xoOk0-H-oBZ3lHdWi3h2GQ)
修复了 流式输出问题
OpenAI 新增了参数chat_template_kwargs: {enable_thinking: false,},
解决了链接本地vLLM部署的AI时,默认思考的问题,以及流式输出 Failed to Fetch问题。
链接为:https://mp.weixin.qq.com/s/xoOk0-H-oBZ3lHdWi3h2GQ