llava报错，ValueError: ‘llava‘ is already used by a Transformers config, pick another name.

微信公众号：leetcode_algos_life，代码随想随记
小红书：412408155
CSDN：https://blog.csdn.net/woai8339?type=blog ，代码随想随记
GitHub: https://github.com/riverind
抖音【暂未开始，计划开始】：tian72530，代码随想随记
知乎【暂未开始，计划开始】：happy001

问题描述

之前跑llava，没问题，最近跑报错，报错信息是，

ValueError: 'llava' is already used by a Transformers config, pick another name.

原因定位

是transformers版本问题导致的，
看了下transformers版本， pip list | grep transformer发现其版本是4.37.0，

pip list | grep transformer
transformers                             4.37.0

解决方案

对transformers进行降级，降级到4.30.1或者4.30.0。

pip install transformers==4.34.0 -i https://pypi.tuna.tsinghua.edu.cn/simple

测试

问题解决。

python -m llava.serve.cli --model-path 《依赖的llava模型地址》 --image-file 《图片地址》 --load-4bit

会出现USER: 的对话框，问题解决。