windows11 本地化部署ChatGLM2-6B 安装笔记

为了学习大模型计算，最近新装机了一台GTX 4060Ti 16G的电脑，以下记录部署ChatGLM2-6B的全过程。

ChatGLM2-6B安装笔记

1、安装Python

首先要选择一个Python版本，Python版本不能低于3.8，这里建议3.10以上，支持的语法更多（例如match，case,我也是才知道的），且为了后续的升级。

这里安装：Anaconda3

下载网址：Index of /

由于ChatGLM2-6B是2023年7月左右发布的，选一个这之前的Anaconda3版本，例如这个版本：

Anaconda3与Python对应版本关系：

 

安装时如果没有添加环境变量，参考以下教程：

https://www.jb51.net/article/261224.htm

2、安装Python代码编辑器

这里安装Python专业编辑器pycharm。例如我这里安装的2022.3.3版本。

可以使用激活工具进行激活。

3、部署chatGLM2-6B

Git-hub网址：

GitHub - THUDM/ChatGLM2-6B: ChatGLM2-6B: An Open Bilingual Chat LLM | 开源双语对话语言模型

3.1 首先安装Git，Windows上安装Git步骤

3.1.1下载Git