Open
Description
背景
在实现ChatGPT接口支持后,LLM小型化取得了很大的发展,自建API逐渐变得可行。然而,目前主题相关AI服务仅支持OpenAI格式的API调用,与目前流行的自建服务互不兼容(例如Ollama),这阻碍了用户选择更好的AI服务。
实施计划
- 建立抽象层以兼容多种LLM API
- 支持Ollama
- Gemini支持 尝试利用gemini总结文章时持续出现错误 #1088
饼先画在这里,欢迎交流!(或者干脆实现掉?
在实现ChatGPT接口支持后,LLM小型化取得了很大的发展,自建API逐渐变得可行。然而,目前主题相关AI服务仅支持OpenAI格式的API调用,与目前流行的自建服务互不兼容(例如Ollama),这阻碍了用户选择更好的AI服务。
饼先画在这里,欢迎交流!(或者干脆实现掉?