本地运行 minigpt-4

1.环境部署

参考官方自带的README.MD，如果不想看官方的，也可参考MiniGPT-4｜开源免费可本地进行图像对话交互的国产高级大语言增强视觉语言理解模型安装部署教程 - openAI

当然，所有的都要按照作者说明来，特别是版本号

当然，按照上面操作，我也是遇到了一些问题，如下

1. "Tokenizer class LLaMATokenizer does not exist or is not currently imported"

解决办法：把 llama-13b-hf/tokenizer_config.json 中 "tokenizer_class": "LLaMATokenizer" 改为 "tokenizer_class": "LlamaTokenizer".

参考：Mistake in the preparation of vicuna weights (error when loading delta weights) · Issue #52 · Vision-CAIR/MiniGPT-4 · GitHub

 2. ModuleNotFoundError: No module named 'fsspec.asyn

解决办法：pip install --upgrade 

不过搜的时候是在google出来解决办法，百度没搜到

https://github.com/binary-husky/gpt_academic/issues/114#issuecomment-1488924452

3. 

 4.

5.

6.

 7.

 8. 这个报的错，还提示怎么解决，解决就是参考9

9. 解决8的文件，按照里面的提示，pip install 里面的库

 10. 这个报错是 minigpt4_eval.yaml 中 ckpt 加载 pretrained_minigpt4.pth 需要指定到 .pth，我之前只是指定到所在文件夹

后面就运行加载成功了，如下：

 11. 这个是我运行的时候，有好多卡，这个 需要在 demo.py 指定只运行在某张卡上，设置如下：

os.environ['CUDA_VISIBLE_DEVICES'] = '2'加载

加载成功后，但是在把其提示的ip输入到浏览器，打不开，很奇怪，后来参考到别人这个，我想到把我的服务器ip写到demo.py中，然后就可以打开了，不过打开还需要有梯子，还好我有梯子

Error:Cannot load 127.0.0.1:7860 · Issue #99 · Vision-CAIR/MiniGPT-4 · GitHub

 

 运行后，输入对话，又报错，暂时还没解决。。。

参考：

1.MiniGPT-4｜开源免费可本地进行图像对话交互的国产高级大语言增强视觉语言理解模型安装部署教程 - openAI

 这个网址好像是中文版openAI，感觉还不错