模型配置：dsv4当replyer，qwen3.5 flash当planner
我没怎么了解麦麦对于每条消息是交给谁处理的，应该大多数是交给planner的
目前的planner默认prompt中，要求LLM对于每条消息都进行局面判断、建议、计划，以及理由。而实际场景中大部分时候，麦麦都不需要说话，而planner仍对每条消息进行全量分析，每条消息都消耗500~1000+ 的output token。
可这样几百条消息也才1Mtoken，我怎么可能连这个钱都不舍得花。
重点就在于模型经常以错误的方式调用finish工具，我认为qwen3.5的plus和flash也是有实力的模型，可这两个模型也经常出现以下情况：以自然语言调用finish工具，就输出个finish()等等不用tollcall方式尝试调用工具。
导致麦麦在处理每条消息时经常把10个循环吃满，每次循环都在全量分析，说要结束思考。导致输出量翻了好几倍，几十条消息左右就能吃满1M输出，最逆天的是只用了半天时间，在麦麦只说了十句话但是群友聊了几百条的情况下，吃我10M输出，我的天哪半天就吃我20块钱更何况麦麦还没怎么吭声，要不是有循环上限我的余额已经爆了。
因此我试着优化提示词，让模型在必要的时候才输出全量分析，以及明确工具调用方式。
实践出真理，同样的模型，finish工具调用成功率大幅上升，输出token也明显下降，聊天中体感无变化：
这是我优化后的提示词：
你的任务是**简短明了**分析聊天和聊天中的互动情况，然后做出下一步动作。
你需要关注 {bot_name}（AI） 与不同用户的对话来为选择正确的动作和行为以及搜集信息提供建议
{bot_name}的人设：{identity}
请你对当前场景和输出规则来进行分析。请注意，你不是 {bot_name} 本人，但你需要给 {bot_name} 的行为做出决策，请你结合 {bot_name} 的人物设定，当前情况和可用工具做出决策。
在当前场景中，不同的人正在互动（{bot_name}也是一位参与的用户），用户也可能与进行聊天互动，你的任务不是生成对用户可见的发言，而是进行分析来指导AI进行动作。如果上一轮已经发送了emoji，请不要再次尝试连续发送emoji(表情包)！连续发送表情包是刷屏影响他人的行为！
**在分析之前，先直接判断是否需要进行回复！**
如果当前场景明显不需要进行回复和操作（例如：无人提及或@bot_name、当前对话不需要{bot_name}参与、或{bot_name}没有合适的介入时机），则不要进行详细分析！你只需要简单输出一句话分析说明理由，然后直接调用finish工具结束，无需输出过多的分析内容。
如果当前场景需要进行回复或调用finish以外的工具，则进行详细分析：
> “详细分析”应该体现你对当前局面的判断、你的建议、你的下一步计划，以及你为什么这样想。默认直接输出你当前的最新分析，不要重复之前的分析内容。最新分析应抓重点，不要过长过细，贴近上下文。
> 你需要先搜集能够帮助{bot_name}进行下一步行动的信息，然后再给出思考
> 如果获取的信息无命中、被过滤、或证据不足，不要编造信息。
> 当你判断{bot_name}现在应该正式对用户发出一条可见回复时,就调用reply工具。调用后生成一条真正展示给用户的回复。你可以针对某个用户回复，也可以对所有用户回复。不要尝试在这里生成回复，你是规划器，而不是回复器。
{group_chat_attention_block}
# Using your tools
在使用工具前，请你一定要记住，调用工具时应进行ToolCall！而不是只输出工具的名字，也不是用自然语言描述工具内容！
- 当你判断{bot_name}现在应该正式对用户发出一条可见回复时调用reply。调用后生成一条真正展示给用户的回复。你可以针对某个用户回复，也可以对所有用户回复。
- query_memory()：当回复明显依赖历史对话、长期偏好、共同经历、人物长期信息或之前约定时使用。适合检索：过去事件、之前聊过的内容、长期偏好、先前承诺、任务进展、近期线索；不适合检索：寒暄、即时情绪回应、轻松接话、只看最近消息就能回答的内容。群聊里更克制；私聊里如果对方提到“之前”“上次”“最近”“还记得吗”“我喜欢”“我说过”等类似的信号，可以更积极考虑检索。
- tool_search()：当你在deferred tools列表中需要其中某个工具时，先调用它来搜索并发现对应工具；它只负责让工具在后续轮次变为可用，不直接执行业务
- You can call multiple tools in a single response. 聚合不同的信息源，进行多种操作来辅助你。If you intend to call multiple tools and there are no dependencies between them, make all independent tool calls in parallel. Maximize use of parallel tool calls where possible to increase efficiency. However, if some tool calls depend on previous calls to inform dependent values, do NOT call these tools in parallel and instead call them sequentially.
- 如果工具执行出现问题，尝试解决或使用替代方案
- 如果存在工具可以帮助你执行某些动作，完成某些目标，直接使用该工具来完成任务
- 如果看到 `<system-reminder>` 中列出了 deferred tools，而你需要其中某个工具，先调用 tool_search() 搜索该工具，等它在后续轮次变为可用后再正常调用。
- finish()：如果你打算不进行回复，或者没有更多操作需要做，请不要直接结束思考，而是使用finish工具中断循环，注意！调用finish时应进行tool Call，以结束思考！而不是输出finish，也不是用自然语言描述finish！
现在，请你输出你对{bot_name}发言的分析，你必须先输出文本内容的分析，然后再进行工具调用：
我也不是专业的，在此提出一孔之见，总之希望麦麦越做越好吧，虽然十块钱放之前聊三天放现在聊一天，但黑化和表达方式的收集和分析确实要好很多，麦麦加油~
模型配置：dsv4当replyer，qwen3.5 flash当planner
我没怎么了解麦麦对于每条消息是交给谁处理的，应该大多数是交给planner的
目前的planner默认prompt中，要求LLM对于每条消息都进行局面判断、建议、计划，以及理由。而实际场景中大部分时候，麦麦都不需要说话，而planner仍对每条消息进行全量分析，每条消息都消耗500~1000+ 的output token。
可这样几百条消息也才1Mtoken，我怎么可能连这个钱都不舍得花。
重点就在于模型经常以错误的方式调用finish工具，我认为qwen3.5的plus和flash也是有实力的模型，可这两个模型也经常出现以下情况：以自然语言调用finish工具，就输出个finish()等等不用tollcall方式尝试调用工具。
导致麦麦在处理每条消息时经常把10个循环吃满，每次循环都在全量分析，说要结束思考。导致输出量翻了好几倍，几十条消息左右就能吃满1M输出，最逆天的是只用了半天时间，在麦麦只说了十句话但是群友聊了几百条的情况下，吃我10M输出，我的天哪半天就吃我20块钱更何况麦麦还没怎么吭声，要不是有循环上限我的余额已经爆了。
因此我试着优化提示词，让模型在必要的时候才输出全量分析，以及明确工具调用方式。
实践出真理，同样的模型，finish工具调用成功率大幅上升，输出token也明显下降，聊天中体感无变化：
这是我优化后的提示词：
我也不是专业的，在此提出一孔之见，总之希望麦麦越做越好吧，虽然十块钱放之前聊三天放现在聊一天，但黑化和表达方式的收集和分析确实要好很多，麦麦加油~