Skip to content

Latest commit

 

History

History
18 lines (13 loc) · 1.82 KB

File metadata and controls

18 lines (13 loc) · 1.82 KB

llm/ — LLM 能力家族

English | 中文

LLM(大语言模型)seam 及其提供方适配器。llm 包同时承担 Service Definition 和 Consumer 角色:抽象服务、内容块词汇和流式分片组装器。提供方适配器注册到 ctx.llm。这些全是产品包。

职责 ctx key
llm/ LLM 服务和共享流式词汇 ctx.llm
token-meter/ 可感知回放的 token 测量 ctx.tokenMeter
llm-retry/ 提供方作用域的重试策略 监听 agent/request-error
llm-deepseek/ 直接 DeepSeek 适配器 注册到 ctx.llm
llm-pi-ai/ 多提供方 pi-ai 适配器 注册到 ctx.llm
llm-engine/ 本地引擎 CLI 适配器(Claude Code、Codex,原生 OAuth) 注册到 ctx.llm

适配器在 seam 上注册提供方路由;重试与 token 测量仍是独立消费方。子 README 负责路由、元数据、回放和提供方协议细节;LLM 架构决策说明设计原理。

子系统参考——消息与内容块、模型请求、StreamChunk 协议、适配器约定(adapter contract)——见 docs/subsystems/llm-streaming.md(token 计量:token-meter.md);另见孪生适配器回放 token 计量按路由模型上下文 Agent Note。