您好,有2个问题想请教一下 1:请问咱们测试得推理速度如何呀 2:如果用qwen这种基模,是否可以直接复用别人得量化模型去减少显存和提速 谢谢!
您好,有2个问题想请教一下
1:请问咱们测试得推理速度如何呀
2:如果用qwen这种基模,是否可以直接复用别人得量化模型去减少显存和提速
谢谢!