怎么将 API 换成智谱 Bigmodel 的 API？

[AkarinLiu]

我想使用智谱的 glm-4-flash 模型，但是移植过程中出了问题，希望能够得到解答。

[AkarinLiu]

希望能够支持更多平台的接入，甚至是支持 Ollama 接入。

[JoloanTsai]

我是使用groq 和cerebras，是將 config.py 裡的 API_BASE_URL 和 API_KEY 換成這些api提供的標準，再到其他python 文檔中把有調用模型的地方改 model=YOUR_MODEL_NAME，印象中ollama 也支持OpenAI Client Library，所以可以用；要變更Embedding 模型的話可以到 embedding_model.py 將 HuggingFaceBgeEmbeddings 換成其他的langchain Embedding Client。