问题描述
在尝试部署llama模型过程中,碰到报错importlib.metadata.PackageNotFoundError: No package metadata was found for bitsandbytes
问题原因
win平台安装的bitsandbytes库实际metadata名为bitsandbytes-windows,而不是bitsandbytes
解决方法
打开python根目录中这个文件:
/Lib/site-packages/transformers/utils/import_utils.py
Ctrl + F搜索以下内容:
importlib.metadata.version("bitsandbytes")
改为这样即可:
importlib.metadata.version("bitsandbytes-windows")