使用AutoDL微调大模型llm

1. 打开autodl服务器配置自己的服务器

2. 连接服务器

   1. 终端连接
      直接打开终端，ssh -p 26930 root@connect.westa.seetacloud.com
      输入密码
   2. vscode连接
      配置~/.ssh/config文件，加入：

      Host westa
      HostName connect.westa.seetacloud.com
      Port 26930
      User root
      IdentityFile ~/.ssh/id_rsa
      

      打开vscode，安装ssh插件，control p打开指令框，输入>ssh会显示如下
      
      选择第一个，然后输入刚才配置的host：westa，提示密码就输入服务器密码，这个密码在autodl网页上可以找到。不仅可以直接编辑代码，还可以在vscode里面直接打开终端，很方便。

3. 在本地机器上设置ssh免密登录：

   ssh-copy-id westa

   根据提示输入yes和密码
   后续vscode连接westa就不用输入密码了。

4. 接下来都是在服务器上配置了。

5. 下载开源工具：

   git clone https://github.com/hiyouga/LLaMA-Efficient-Tuning.git

6. 下载后进入LLaMA-Efficient-Tuning目录

7. 创建虚拟环境目录mkdir venv，进入目录cd venv，创建训环境：

   cd venv
   python3 -m venv .

8. 激活虚拟环境：

   source bin/activate

9. 回到项目目录安装依赖：

   cd …
   pip install -r requirements.txt

10. 打开vpn:

    source /etc/network_turbo

11. 运行train_web.py

    python src/train_web.py
    会给出一个网页链接，直接登录就可以。接下来的操作可以参考我博客：
    链接: 微调