用驱动云免费算力创建属于自己的聊天GPT

 该项目通过使用驱动云平台（趋动云-连接算力·连接人 (virtaicloud.com)）发放的免费算力调用GPU资源创建属于自己的聊天GPT。本文主要解释其中一些步骤的含义及其注意事项。

【学习教程】:

https://nuly9zxzf1.feishu.cn/docx/HOmzdmST9oc43gxjTF0c7PAAnnb

【打卡链接】:Docs

Step1. 创建项目并上传代码：

           基本和猫狗分类模型的注意事项差不多，想具体了解的参考我上一篇博文。

1.上传代码时上传的是压缩包zip，不要解压后再上传

Step2. 环境准备：

1.注意资源配置选择B1.large，和之前的small不一样，配置小了容易跑不动或跑得贼慢。

2.镜像配置：要把刚才第一步的镜像删掉，换成ChatGLM2-6B的镜像。

3.端口配置：这一步是为了部署开放端口，让chatglm2-6B训练好后，可以通过此端口，让用户通过网页形式访问

操作步骤：

安装并启动 nginx。

apt install -y nginx && nginx && ps -ef|grep master

nginx 默认端口是 80，检查一下 nginx 是否正常启动。

lsof -i:80

返回如下信息，表明端口被 nginx 正常占用。

将 nginx 的端口添加到开发环境，并等待外部端口的分配（约 1 分钟）。

COMMAND  PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
nginx   1095 root    6u  IPv4  51522      0t0  TCP *:80 (LISTEN)
nginx   1095 root    7u  IPv6  51523      0t0  TCP *:80 (LISTEN)

复制 外网访问 链接（外部域名:外部端口）到浏览器，访问外部网页。

Step3. 加载模型：

1.在修改 cli_demo.py 中模型的地址时，一定要复制清楚，模型实际地址的“/”一定不能遗漏。

2.切换至 网页终端。等待最终 Loading checkpoint shards: 100% 时，返回 “用户：” 字样会稍慢一点，大概在一两分钟左右，要是时间很长依旧没有返回的话重启开发环境之后再做一遍解决了。