baichuan 量化版本模型在windows下的加载失败问题 通常因为加载模型的问题,问题在于bitsandbytes库目前不支持在windows下的使用,需要安装修改版本: GitHub - jllllll/bitsandbytes-windows-webui: Windows compile of bitsandbytes for use in text-generation-webui. 从中选择当前需要装的版本替换即可。