更多模型量化教程请参考 《TPU-MLIR开发参考手册》和《TPU-NNTC开发参考手册》的“模型量化”(请从算能官网相应版本的SDK中获取)。
建议从训练集随机抽取100~500张样本作为量化数据集，量化数据集应尽量涵盖测试场景和类别，量化时可尝试不同的iterations进行量化以获得最优的量化精度。
量化数据集的预处理应该和推理测试的预处理保持一致，否则会导致较大的精度损失。在mlir制作npz/npy数据集、nntc制作lmdb量化数据集时，应当预先完成数据的预处理。
由于yolov5系列的输出分类和回归任务耦合在一起,致使输出在统计学上的分布不均匀，所以通常不量化最后三个conv层及其之后的所有层，有时候最开始的几个conv层也不量化，具体效果如何需要实际操作下。
MLIR具体步骤如下：
-
可以先用mlir2onnx.py这个工具，将model_transform生成的mlir文件转化成onnx，然后通过netron查看onnx网络结构。
mlir2onnx.py -m xxx.mlir -o xxx.onnx
-
使用fp_forward.py生成qtable，--fpfwd_outputs、--fpfwd_inputs功能与以前nntc一样，指定层名即可将对应的所有层指定对应的fp_type。
如上图所示，最后三个的卷积层的名称分别为390，416，442，因此使用以下fp_forward指令，生成qtable:fp_forward.py xxx.mlir --fpfwd_outputs 390,416,442 --chip bm1684 -o xxx_qtable
将最后三个卷积以及后续所有的计算层采用float进行计算，可有效提高模型精度。
注意，在部分版本mlir中，--chip参数或许不支持bm1688/cv186x，您可以使用bm1684x代替，生成的qtable都是通用的，您也可以自由地更改qtable中每一层对应的的fp_type。
-
生成的qtable传给model_deploy.py，配合加入test_input和test_reference来验证混精度策略是否有效。
NNTC具体步骤如下：
- 生成fp32 umodel的prototxt文件；
- 用Netron打开fp32 umodel的prototxt文件，选择后面三个branch（大目标，中目标，小目标）的conv层，记下名字；
- 在分步量化或一键量化中通过--fpfwd_outputs指定步骤2所获得的conv层。可通过--help查看具体方法或参考YOLOv5的量化脚本。
YOLOv8系列模型采用解耦头结构 (Decoupled-Head), 将分类和检测头分离，经验性地，对于改类，一般都需要从坐标回归分支的Conv层、概率预测分支的Sigmoid层开始，将它们设为浮点数计算。
MLIR具体步骤如下：
-
可以先用mlir2onnx.py这个工具，将model_transform生成的mlir文件转化成onnx，然后通过netron查看onnx网络结构。
mlir2onnx.py -m xxx.mlir -o xxx.onnx
-
使用fp_forward.py生成qtable，--fpfwd_outputs、--fpfwd_inputs功能与以前nntc一样，指定层名即可将对应的所有层指定对应的fp_type。
如上图所示，层名一般是该层在netron.app中对应的OUTPUTS name。参考如下命令生成qtable：fp_forward.py xxx.mlir --fpfwd_outputs /model.22/dfl/conv/Conv_output_0_Conv --chip bm1684 -o xxx_qtable
然后在qtable中直接添加Sigmoid层，由于在之前的fp_forward过程中，卷积层已经包含了Sigmoid后续的操作，因此只需在量化表的最后一行加入
/model.22/Sigmoid_output_0_Sigmoid F16。
注意，在部分版本mlir中，--chip参数或许不支持bm1688/cv186x，您可以使用bm1684x代替，生成的qtable都是通用的，您也可以自由地更改qtable中每一层对应的的fp_type。
-
生成的qtable传给model_deploy.py，配合加入test_input和test_reference来验证混精度策略是否有效。
在以上注意事项都确认无误的基础上，尝试不同的门限策略th_method，推荐ADMM, MAX,PERCENTILE9999。
NNTC相关报错：
w0209 14:47:33.992739 3751 graphTransformer.cpp:515] max diff = 0.00158691 max diff blob id : 4 blob name : out put
Fail: only one compare!原因：量化过程中fp32精度对比超过设定阈值(默认值为0.001)。 解决办法：修改fp32精度对比阈值，如-fp32_diff=0.01。
MLIR相关报错如：
min_similiarity = (0.7610371112823486, -0.6141192159850581, -16.15570902824402)
Target yolov8s_bm1684_int8_sym_tpu_outputs.npz
Reference yolov8s_top_outputs.npz
npz compare FAILED.
compare output0_Concat: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:00<00:00, 3.88it/s]
Traceback (most recent call last):
File "/usr/local/lib/python3.10/dist-packages/tpu_mlir/python/tools/model_deploy.py", line 335, in <module>
tool.lowering()
File "/usr/local/lib/python3.10/dist-packages/tpu_mlir/python/tools/model_deploy.py", line 132, in lowering
tool.validate_tpu_mlir()
File "/usr/local/lib/python3.10/dist-packages/tpu_mlir/python/tools/model_deploy.py", line 225, in validate_tpu_mlir
f32_blobs_compare(self.tpu_npz, self.ref_npz, self.tolerance, self.excepts)
File "/usr/local/lib/python3.10/dist-packages/tpu_mlir/python/utils/mlir_shell.py", line 190, in f32_blobs_compare
_os_system(cmd)
File "/usr/local/lib/python3.10/dist-packages/tpu_mlir/python/utils/mlir_shell.py", line 50, in _os_system
raise RuntimeError("[!Error]: {}".format(cmd_str))
RuntimeError: [!Error]: npz_tool.py compare yolov8s_bm1684_int8_sym_tpu_outputs.npz yolov8s_top_outputs.npz --tolerance 0.8,0.5 --except - -vv
mv: cannot stat 'yolov8s_int8_1b.bmodel': No such file or directory可能是由于用户使用自己的onnx，例程提供的qtable中的层名，与生成的mlir的层名对不上。此时需要重新生成qtable，如果是yolo系列模型，可以参考特定模型优化技巧，如果是其他模型，可以参考TPU-MLIR Github中的run_sensitive_layer功能。