问题1: NotImplementedError: Cannot copy out of meta tensor; no data! 出现这个问题的原因是: 使用了device=“auto” 来加载模型,分到多个GPU上;当前GPU中暂时没有memory可以分配,因此变为device='meta’的tensor。 处理方法: 使用更多的GPU,通过增加memory来缓解该问题。没有更多的卡的情况下可以考虑低比特量化,比如8bit 持续更新中 。。。。