tag(v2.0.7): 修复Cursor流式响应token统计和添加调试日志

cniu6 · cniu6 · commit cc80c4f93455 · 2026-01-12T15:45:16.000+08:00
主要改进:
1. 修复Cursor流式响应中tokens=0的问题
   - 在passthrough模式下添加stream_options参数
   - 请求后端返回usage信息

2. 添加详细的调试日志
   - streamDirect函数添加字节数统计
   - 记录响应内容预览(前500字符)
   - 明确显示token提取结果

3. 优化日志输出
   - 添加错误日志记录
   - 提供响应缓冲区大小信息

4. 版本更新
   - 更新到v2.0.7
   - 同步前端和构建配置版本号

5. 文档
   - 创建CURSOR_STREAM_DEBUG.md调试指南
   - 创建WAILS_LOG_CONTROL.md日志控制说明
   - 创建run-quiet脚本用于安静模式运行

修复了OpenAI-&gt;Claude流式转换的content_block_start格式问题
diff --git a/CURSOR_STREAM_DEBUG.md b/CURSOR_STREAM_DEBUG.md
@@ -0,0 +1,133 @@
+# Cursor 流式响应调试指南
+
+## 🐛 当前问题
+
+**症状**：
+- Cursor 请求显示 `tokens=0`
+- 后端（Antigravity）显示请求成功并返回数据
+- 流式响应可能没有正确传递到 Cursor
+
+## ✅ 已添加的调试日志
+
+在 `internal/service/proxy_service.go` 的 `streamDirect` 函数中添加了详细的调试日志：
+
+1. **流量统计**：记录传输的总字节数
+2. **响应缓冲**：显示响应缓冲区的大小
+3. **响应预览**：显示前500字符的响应内容（debug级别）
+4. **Token提取**：记录提取到的 token 数量
+
+## 🧪 测试步骤
+
+### 1. 启用 Debug 日志级别
+
+在 `main.go` 中修改日志级别（如果需要看到 Debug 日志）：
+
+```go
+// 第94行，将 InfoLevel 改为 DebugLevel
+log.SetLevel(log.DebugLevel)  // 原来是 log.InfoLevel
+```
+
+### 2. 重新运行程序
+
+```powershell
+# 重新编译并运行
+go run .
+```
+
+### 3. 发送测试请求
+
+从 Cursor 发送一个请求，然后查看日志输出。
+
+### 4. 查看关键日志
+
+应该会看到类似这样的日志：
+
+```
+time="..." level=info msg="[Cursor Stream] Received request for model: proxy_auto"
+time="..." level=info msg="[Cursor Stream] Routing to: http://127.0.0.1:8545/v1/chat/completions ..."
+time="..." level=debug msg="[Stream Direct] Stream completed. Total bytes: 12345"
+time="..." level=debug msg="[Stream Direct] Response buffer length: 12345 bytes"
+time="..." level=debug msg="[Stream Direct] Response preview: data: {\"id\":\"...\", ..."
+time="..." level=info msg="[Stream Direct] Extracted tokens: prompt=100, completion=50, total=150"
+time="..." level=info msg="LogRequest: model=claude-opus-4-5-20251101, tokens=150, success=true"
+```
+
+## 🔍 诊断要点
+
+### 如果看到 `tokens=0`
+
+检查以下内容：
+
+1. **响应预览中是否包含 `usage` 字段**？
+   - OpenAI 格式：`"usage": {"prompt_tokens": N, "completion_tokens": M}`
+   - Claude 格式：在 `message_start` 或 `message_delta` 事件中
+
+2. **响应是否完整**？
+   - 检查 `Total bytes` 和 `Response buffer length` 是否一致
+   - 确认没有 "Stream error" 日志
+
+3. **SSE 格式是否正确**？
+   - 应该是 `data: {...}\n\n` 格式
+   - 检查是否有 `[DONE]` 标记
+
+### 如果响应中没有 usage 信息
+
+可能的原因：
+
+1. **后端没有发送 usage**：
+   - 某些 OpenAI 兼容 API 可能不会在流式模式下发送 usage
+   - 需要在请求中添加 `stream_options: {include_usage: true}`
+
+2. **格式不匹配**：
+   - 后端可能使用了非标准的格式
+   - 需要调整 `extractTokensFromStreamResponse` 函数
+
+## 🛠️ 可能的修复方案
+
+### 方案 1: 确保请求 usage 信息
+
+在 Cursor 流式请求中添加 `stream_options`（第3912行附近）：
+
+```go
+else {
+    reqData["stream"] = true
+    reqData["stream_options"] = map[string]interface{}{
+        "include_usage": true,
+    }
+    transformedBody, _ = json.Marshal(reqData)
+    targetURL = buildOpenAIChatURL(route.APIUrl)
+}
+```
+
+### 方案 2: 从非流式字段提取 tokens
+
+如果后端在每个 chunk 中都包含临时的 token 计数，修改 `extractTokensFromStreamResponse` 来累积这些值。
+
+### 方案 3: Post-hoc Token 计数
+
+如果实在无法从流式响应中获取，可以考虑：
+- 使用 tiktoken 库估算 token 数（需要添加依赖）
+- 或者在非流式模式下获取准确的 token 数
+
+## 📊 预期结果
+
+修复后应该看到：
+
+```
+time="..." level=info msg="[Stream Direct] Extracted tokens: prompt=XXX, completion=YYY, total=ZZZ"
+time="..." level=info msg="LogRequest: model=..., tokens=ZZZ, success=true"
+time="..." level=info msg="POST /api/cursor/v1/chat/completions 200"
+```
+
+其中 XXX、YYY、ZZZ 都是大于 0 的数字。
+
+## 📝 下一步
+
+1. 运行测试，收集日志
+2. 根据日志输出确定根本原因
+3. 应用相应的修复方案
+4. 验证修复效果
+
+---
+
+**调试完成后记得**：将日志级别改回 `log.InfoLevel` 以减少日志输出。
diff --git a/WAILS_LOG_CONTROL.md b/WAILS_LOG_CONTROL.md
@@ -0,0 +1,99 @@
+# OpenAI Router - Wails 日志控制说明
+
+## 问题说明
+
+Wails v3 框架会输出详细的绑定调用日志：
+```
+Jan 12 14:47:58.238 INF Binding call started: id=...
+Jan 12 14:47:58.241 INF Binding call complete: id=...
+Jan 12 14:47:58.238 INF Asset Request: windowName=...
+```
+
+这些日志在开发阶段有用，但在生产环境会产生大量输出。
+
+## 解决方案
+
+### 方法 1: 使用生产构建（推荐）
+
+构建生产版本时，Wails 会自动减少日志输出：
+
+```powershell
+# 构建生产版本
+wails build
+
+# 或使用 Go 构建
+go build -ldflags "-s -w" -o anyproxyai.exe .
+```
+
+### 方法 2: 设置环境变量
+
+在运行时设置环境变量来控制日志级别：
+
+```powershell
+# Windows PowerShell
+$env:WAILS_LOGLEVEL="error"
+go run .
+
+# 或运行已编译的程序
+$env:WAILS_LOGLEVEL="error"
+.\anyproxyai.exe
+```
+
+```bash
+# Linux/macOS
+WAILS_LOGLEVEL=error go run .
+```
+
+可用的日志级别：
+- `trace` - 所有日志（最详细）
+- `debug` - 调试信息
+- `info` - 信息日志（默认）
+- `warning` - 警告信息
+- `error` - 仅错误信息
+- `fatal` - 仅致命错误
+
+### 方法 3: 创建启动脚本
+
+创建 `run-quiet.ps1`:
+
+```powershell
+# run-quiet.ps1
+$env:WAILS_LOGLEVEL="error"
+go run .
+```
+
+或 `run-quiet.bat`:
+
+```batch
+@echo off
+set WAILS_LOGLEVEL=error
+go run .
+```
+
+### 方法 4: 在配置文件中添加日志控制（待实现）
+
+未来可以在 `config.json` 中添加：
+
+```json
+{
+  "debug": false,
+  "wailsLogLevel": "error"
+}
+```
+
+然后在代码中根据配置设置环境变量。
+
+## 当前状态
+
+目前最简单的方式是：
+
+1. **开发时**: 直接使用 `go run .`（查看所有日志）
+2. **生产时**: 使用 `wails build` 构建（自动优化日志）
+3. **临时需要**: 使用环境变量 `$env:WAILS_LOGLEVEL="error"`
+
+## 注意事项
+
+- Wails 框架日志（`INF Binding call`）无法通过应用代码完全禁用
+- 这是 Wails v3 的预期行为，用于调试前后端通信
+- 生产构建会自动优化这些日志输出
+- 应用自己的日志（`time="..." level=info msg="..."`）可以通过 logrus 配置控制
diff --git a/build/config.yml b/build/config.yml
@@ -10,7 +10,7 @@ info:
   description: "Universal AI API Proxy Router with Multi-Format Support"
   copyright: "(c) 2025, AnyProxyAi"
   comments: "AI API Proxy Router supporting OpenAI, Claude, and Gemini formats"
-  version: "2.0.6"
+  version: "2.0.7"
 # Dev mode configuration
 dev_mode:
   root_path: .
diff --git a/build/windows/anyproxyai.exe.manifest b/build/windows/anyproxyai.exe.manifest
@@ -1,6 +1,6 @@
 <?xml version="1.0" encoding="UTF-8" standalone="yes"?>
 <assembly manifestVersion="1.0" xmlns="urn:schemas-microsoft-com:asm.v1" xmlns:asmv3="urn:schemas-microsoft-com:asm.v3">
-    <assemblyIdentity type="win32" name="com.anyproxyai.app" version="2.0.6.0" processorArchitecture="*"/>
+    <assemblyIdentity type="win32" name="com.anyproxyai.app" version="2.0.7.0" processorArchitecture="*"/>
     <dependency>
         <dependentAssembly>
             <assemblyIdentity type="win32" name="Microsoft.Windows.Common-Controls" version="6.0.0.0" processorArchitecture="*" publicKeyToken="6595b64144ccf1df" language="*"/>
diff --git a/frontend/package.json b/frontend/package.json
@@ -1,6 +1,6 @@
 {
   "name": "openai-router-frontend",
-  "version": "2.0.6",
+  "version": "2.0.7",
   "type": "module",
   "scripts": {
     "dev": "vite",
@@ -21,4 +21,4 @@
     "@vitejs/plugin-vue": "^5.0.0",
     "vite": "^5.0.0"
   }
-}
+}
diff --git a/frontend/src/App.vue b/frontend/src/App.vue
@@ -585,7 +585,7 @@
 
                   <n-space align="center">
                     <n-icon size="20"><InformationCircleIcon /></n-icon>
-                    <n-text>{{ t('settings.version') }}: v2.0.6</n-text>
+                    <n-text>{{ t('settings.version') }}: v2.0.7</n-text>
                   </n-space>
 
                   <n-space align="center">
diff --git a/internal/service/proxy_service.go b/internal/service/proxy_service.go
@@ -1203,27 +1203,46 @@ func (s *ProxyService) streamWithAdapter(reader io.Reader, writer io.Writer, flu
 func (s *ProxyService) streamDirect(reader io.Reader, writer io.Writer, flusher http.Flusher, model string, routeID int64) error {
 	buf := make([]byte, 4096)
 	var responseBuffer bytes.Buffer
+	var bytesWritten int64
 
 	for {
 		n, err := reader.Read(buf)
 		if n > 0 {
 			// 将数据写入缓冲区以便后续解析token使用信息
 			responseBuffer.Write(buf[:n])
+			bytesWritten += int64(n)
 
 			if _, writeErr := writer.Write(buf[:n]); writeErr != nil {
+				log.Errorf("[Stream Direct] Failed to write to client: %v", writeErr)
 				s.routeService.LogRequest(model, routeID, 0, 0, 0, false, writeErr.Error())
 				return writeErr
 			}
 			flusher.Flush()
 		}
 		if err != nil {
 			if err == io.EOF {
+				log.Debugf("[Stream Direct] Stream completed. Total bytes: %d", bytesWritten)
+
 				// 尝试从响应中提取token使用信息
-				promptTokens, completionTokens := s.extractTokensFromStreamResponse(responseBuffer.String())
+				responseStr := responseBuffer.String()
+				log.Debugf("[Stream Direct] Response buffer length: %d bytes", len(responseStr))
+
+				// 仅在debug模式下记录响应内容（前500字符）
+				if len(responseStr) > 0 {
+					previewLen := 500
+					if len(responseStr) < previewLen {
+						previewLen = len(responseStr)
+					}
+					log.Debugf("[Stream Direct] Response preview: %s", responseStr[:previewLen])
+				}
+
+				promptTokens, completionTokens := s.extractTokensFromStreamResponse(responseStr)
 				totalTokens := promptTokens + completionTokens
+				log.Infof("[Stream Direct] Extracted tokens: prompt=%d, completion=%d, total=%d", promptTokens, completionTokens, totalTokens)
 				s.routeService.LogRequest(model, routeID, promptTokens, completionTokens, totalTokens, true, "")
 				return nil
 			}
+			log.Errorf("[Stream Direct] Stream error: %v", err)
 			s.routeService.LogRequest(model, routeID, 0, 0, 0, false, err.Error())
 			return err
 		}
@@ -3910,6 +3929,10 @@ func (s *ProxyService) ProxyCursorStreamRequest(requestBody []byte, headers map[
 		targetURL = s.buildAdapterStreamURL(cleanAPIUrl, adapterName, model)
 	} else {
 		reqData["stream"] = true
+		// 请求后端在流式响应中包含 usage 信息
+		reqData["stream_options"] = map[string]interface{}{
+			"include_usage": true,
+		}
 		transformedBody, _ = json.Marshal(reqData)
 		targetURL = buildOpenAIChatURL(route.APIUrl)
 	}
diff --git a/py/__pycache__/antigravity_proxy.cpython-313.pyc b/py/__pycache__/antigravity_proxy.cpython-313.pyc
diff --git a/py/antigravity_proxy.py b/py/antigravity_proxy.py
diff --git a/py/test_cursor2.py b/py/test_cursor2.py

Original file line number	Diff line number	Diff line change
`@@ -1,6 +1,6 @@`
`1`	`1`	`{`
`2`	`2`	`"name": "openai-router-frontend",`
`3`		`- "version": "2.0.6",`
	`3`	`+ "version": "2.0.7",`
`4`	`4`	`"type": "module",`
`5`	`5`	`"scripts": {`
`6`	`6`	`"dev": "vite",`
`@@ -21,4 +21,4 @@`
`21`	`21`	`"@vitejs/plugin-vue": "^5.0.0",`
`22`	`22`	`"vite": "^5.0.0"`
`23`	`23`	`}`
`24`		`-}`
	`24`	`+}`