[Question]: 如何微调Qwen2.5-7B-instruct在特定行业中的连续工具调用的准确性

[EkkoWH]

    我想要微调qwen2.5-7B-instruct模型在特定行业中的工具调用能力。
    在我们的部分场景中需要涉及到大模型连续调用工具，并且前面工具的调用的结果经过大模型分析会作为后续工具的参数。当我使用阿里云qwen2.5-72B-instruct模型时（百炼大模型上没有微调过的版本），工具的调用表现良好，基本上准确率在90%以上。
    但是我们本地无法部署如此大的模型，因此选用了qwen2.5-7B-instruct，但是在本地测试的效果并不好，因此想通过微调提高大模型调用工具的准确性。

以下是我项目的一些基本信息

agent框架：langgraph使用langgraph.prebuilt.chat_agent_executor.create_react_agent创建的react agent
微调框架：LLama-factory
我主要问题在于：
1.使用langgraph.prebuilt.chat_agent_executor.create_react_agent创建agent是否是一种合适的做法？或者有没有更好的做法？
2.当我自己微调的时候，我该如何构建数据集的内容？具体内容格式是什么样的？我不确定是否正确，以下内容为我当前使用的格式，内容经过处理仅还原我的数据集的格式。

[
{
"conversations": [
{
"from": "human",
"value": "执行操作：在屏幕上播放变形金刚"
},
{
"from": "function_call",
"value": "{"name": "GetVideos", "arguments": {}}"
},
{
"from": "observation",
"value": "[[{"id": "bd919d8dbeef4e308d4e8cb19b2e03c8", "name": "变形金刚"}], 200, null]"
},
{
"from": "function_call",
"value": "{"name": "StartPlay", "arguments": {"signal_id": "bd919d8dbeef4e308d4e8cb19b2e03c8"}}"
},
{
"from": "observation",
"value": "["bd919d8dbeef4e308d4e8cb19b2e03c8", 200, null]"
},
{
"from": "gpt",
"value": "已为您播放变形金刚"
}
],
"tools": "[{"name": "GetVideos", "description": "获取可播放的视频", "returns": "所有视频列表", "parameters": {"type": "object", "properties": {}}},{"name": "StartPlay", "description": "播放视频", "returns": "无", "parameters": {"type": "object", "properties": {"signal_id": {"type": "string", "description": "信号源ID"}}}]"
}
]

[jklj077]

Check the documentation before creating an issue: https://qwen.readthedocs.io/zh-cn/latest/framework/function_call.html

Qwen2.5-7B-Instruct supports tool calls and you could get better results just by using the original tool calling capabilites instead of ReAct.

How to finetune the model depending on how you would like to use the model. If you would like to use the ReAct format, organize the examples in that format. If you would like to use the original format, just use tokenizer.apply_chat_template in transformers.

[EkkoWH]

我当然知道Qwen2.5-7B-Instruct 支持工具调用，只是在连续的工具调用时，表现并不好，所以想通过微调改善这种情况。所以应该怎么做呢？如果要微调的话，数据该使用什么格式？