微调大模型LLaMA-Factory--debug

问题一：

AttributeError: 'BaichuanConfig' object has no attribute 'z_loss_weight'

百川2-7B-预训练模型 · 模型库 (modelscope.cn)

cd到下载模型的根目录Baichuan2-7B-Base下，修改config.json，在最后一行添加配置"z_loss_weight": 0即可

2、问题二：ImportError: cannot import name 'MultiModalData' from 'vllm.sequence' (/root/miniconda3/lib/python3.8/site-packages/vllm/sequence.py)

把vllm的版本从0.5.0降低到0.4.3就可以啦，亲测！

3、问题三：

（1），如果是：Could not create share link. Missing file，按照给出的提示下载frpc_linux_amd64文件，并且按照他的要求修改名称，移动到提示指定的位置，并进行下面2的操作

但是这个文件提示木马，一直被电脑删掉。解决：把火绒和电脑管家的管控都关掉了

（2），如果是：Could not create share link. Please check your internet connection or our status page: https://status.gradio.app，cd进入frpc_linux_amd64文件的位置（应该在.conda/envs/ChatGLM2/lib/python3.11/site-packages/gradio），输入以下命令给予权限：chmod +x frpc_linux_amd64_v0.2

3、问题三：
TypeError: __init__() missing 1 required positional argument: 'label'
IMPORTANT: You are using gradio version 3.50.2, however version 4.29.0 is available, please upgrade.

安装gradio4.29.0可解决

但是训练，gradio要求<4.0，明天搞

解决：直接跑python src/webui.py，使用新的gradio即可（直接pip install gradio）

4、问题四：

/bin/sh: 1: llamafactory-cli: not found

cd LLaMA-Factory
pip install -e .[metrics]  #重新安装依赖