算力需求

[chenguoxi1987]

在推理阶段，需要什么样的算力，一个4090可以吗

[Czm369]

在推理阶段，需要什么样的算力，一个4090可以吗

可以，推理时单卡batchsize开到4，显存占用不会大于20G。