2301_77489834的博客

原创 【colab平台FinGPT金融大模型训练】‘MatmulLtState‘ object has no attribute ‘memory_efficient_backward‘报错（已解决）

本文展现了在Colab平台使用FinGPT进行金融新闻情感分类时，遇到PeftModel微调错误"'MatmulLtState' object has no attribute 'memory_efficient_backward'"。分析该问题与bitsandbytes库版本不兼容有关。尝试降级transformer和peft版本均未成功。最后通过使用版本较为稳定的bitsandbytes==0.45.1,并将8位量化改为16位量化，避开访问 memory_efficient_backward，解决报错