【本地大模型部署与微调】ChatGLM3-6b、m3e、one-api、Fastgpt

先自我介绍一下，小编浙江大学毕业，去过华为、字节跳动等大厂，目前阿里P7

深知大多数程序员，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年最新Linux运维全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上运维知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以添加V获取：vip1024b （备注运维）

正文

cd basic_demo
streamlit run web_demo_streamlit.py

**首次运行的话到1.4这停止,目的是为了测试大模型是否跑通.** 


**下面的1.5 后面会有使用的时机**




#### 1.5 修改api\_server.py文件

cd ChatGLM3/openai_api_demo

然后找到api_server.py文件夹

修改里面的MODEL_PATH 和 EMBEDDING_PATH 为本地的大模型地址和向量模型地址

![](https://img-blog.csdnimg.cn/img_convert/60774edc0f707e29c35378a10fa972a3.png)


修改文件最下面的`device_map="cuda"`



![](https://img-blog.csdnimg.cn/img_convert/3a2d396f230d51882e32c96d4bdf8fed.png)

model = AutoModel.from_pretrained(MODEL_PATH,trust_remote_code=True,device_map=“cuda”).eval()

### 2.下载docker和docker compose

安装 Docker

curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun
systemctl enable --now docker

安装 docker-compose

curl -L https://github.com/docker/compose/releases/download/v2.20.3/docker-compose-uname -s-uname -m -o /usr/local/bin/docker-compose
chmod +x /usr/local/bin/docker-compose

验证安装

doc