想使用randeng的deduction和abduction进行降重改写,Randeng-TransformerXL-5B-Deduction-Chinese。 硬件为16G的4060ti模型,但提示gpu显存不够,是否有解决方法。 另外,如果使用Randeng-TransformerXL-1.1B-Paraphrasing-Chinese改写模型,可以正常运行,但貌似准确度一般,是否有改写的其他建议或最新模型推荐。
想使用randeng的deduction和abduction进行降重改写,Randeng-TransformerXL-5B-Deduction-Chinese。
硬件为16G的4060ti模型,但提示gpu显存不够,是否有解决方法。
另外,如果使用Randeng-TransformerXL-1.1B-Paraphrasing-Chinese改写模型,可以正常运行,但貌似准确度一般,是否有改写的其他建议或最新模型推荐。