请问大家在测评自己量化的qwen模型时，具体该如何操作。文档里“新增第三方模型”教程有点笼统，看不明白。

[AriesHaa]

-如题-

[christyzou]

你有两种方法可以测评自定义的模型：
方法一：自定义传参，--hf-path换成你自己的模型路径

python run.py \
--datasets ceval_gen \   
--hf-path /mnt/diskb5/LLM/model/XXX \  
--tokenizer-path /mnt/diskb5/LLM/model/XXX \
--tokenizer-kwargs padding_side='left' truncation='left' trust_remote_code=True \
--model-kwargs trust_remote_code=True device_map='auto' \
--max-seq-len 2048 \
--max-out-len 32\
--batch-size 4 \
--hf-num-gpus 1 \
--debug

方法二：增添配置文件：
第一步：

第二步：


第三步：