请问ERNIE-4.5-VL-28B-A3B-Thinking模型是否支持量化

[Shame-fight]

如题，量化后需要的最小显存（4090能否运行）。

[zoooo0820]

具体量化方式和显存对应情况可以参考 https://github.com/PaddlePaddle/FastDeploy/blob/develop/docs/best_practices/ERNIE-4.5-VL-28B-A3B-Thinking.md ，根据显存大小可能需要多卡执行