大模型部署基础环境配置

---

  由于本人主要是在Win10下进行开发和研究，所以教程默认是基于Win10的。若想在Linux或其他系统按教程实施，在某些地方可能会需要做一点改变，自行百度或询问AI基本都能解决。

1、包管理工具安装

  Anaconda 是一个包含了众多数据科学相关库和工具的发行版。它不仅预装了 Python 语言，还附带了大量常用的科学计算、数据分析和机器学习库，如 NumPy、Pandas、Matplotlib 等。Anaconda 提供了一个完整的环境管理系统，方便用户创建、切换和删除不同的 Python 环境，以满足不同项目对库和版本的需求。
  Miniconda 则是一个精简版的 Anaconda。它只包含了 Conda 包管理器和 Python 基础环境，没有预装那么多的库。用户可以根据自己的需求，通过 Conda 命令逐步安装所需的库和依赖项。对于只需要特定少量库的开发者，Miniconda 可以提供更轻量、灵活的选择。

二者之间的区别：

1. 安装体积：Anaconda 安装包较大，因为包含了大量预安装的库；Miniconda 安装包相对较小，更精简。
2. 预装库：Anaconda 预装了丰富的库；Miniconda 初始几乎没有预装库。
3. 适用场景：Anaconda 适合初学者和希望快速搭建完整数据科学环境的用户；Miniconda 更适合对环境有精确控制需求、希望按需安装库的高级用户或有特定需求的开发者。

  总之，选择 Anaconda 还是 Miniconda 取决于您的具体需求和使用场景。如果您需要一个开箱即用、功能齐全的环境，Anaconda 可能更适合；如果您希望更灵活地定制环境并且对安装体积有要求，Miniconda 是不错的选择。

1.1 Anconda安装

Anaconda官网下载

1. 填写邮箱地址，勾选，提交，然后打开自己的邮箱，点击下载链接下载；
2. 双击Anaconda3.exe文件，点击下一步：
   
3. 点击 I agree

4. 简单点就选Just Me，然后再点击Next。
   
5. 设置安装路径
   强烈建议不要安装在C盘，不然后期安装的库或者虚拟镜像很容易把C盘塞爆，到时候删都找不到地方。此处需要注意，安装的文件夹必须是个空文件夹，不然不能安装，所以建议先创建一个空文件夹。
   
6. 将Anaconda添加至系统环境变量，点击Install
   两个都要勾选，Add Anaconda3 to the system PATH environment variable就是将Anaconda添加至系统环境变量，这样将省去自己手动添加环境变量的步骤。
   
   然后一直Next，一直到Finish就算安装完成了。
7. 验证是否安装成功
   打开控制台，输入python，若出现如下所示提示，则说明安装成功。下载的Anconda的版本越新，安装的Python版本也越新，所以你安装后这里不一定就是3.9的版本，但是完全不用担心。
   

1.2 Miniconda安装

Miniconda官网下载

1. 根据需要选择对应的下载文件
2. 安装过程与Anconda一模一样，直接参照上述步骤安装即可。

这里一定要勾选，否则要手动添加到环境变量。

2、虚拟环境配置

2.1 虚拟环境管理

• 创建虚拟环境，环境名称为LLM(不区分大小写，即LLM与llm是同一个虚拟环境)：
  :::tips
  conda create -n LLM python=3.10
  :::

• 激活虚拟环境：
  :::tips
  conda activate LLM
  :::

• 关闭环境：
  :::tips
  conda deactivate
  :::

• 删除虚拟环境
  :::tips
  conda remove -n LLM --all
  :::

• 查看虚拟环境名称
  :::tips
  conda env list
  :::

2.2 镜像源管理

1. 查看anaconda中已经存在的镜像源

conda config --show channels

2. 添加镜像源(永久添加)
   :::tips
   conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
   conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
   conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
   :::

3. 设置搜索时显示通道地址

conda config --set show_channel_urls yes

4. 若不想按照上述步骤添加镜像，可使用以下命令直接指定安装时使用的镜像地址(以opencv为例)：

conda install opencv -c [https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/](https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/)

5. 检查是否换源成功！！！终端输入以下命令：

conda info

6. 删除镜像源
   :::tips
   conda config --remove channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
   :::

7. 还原默认源

conda config --remove-key channels

8. pip 安装速度过慢可单独指定安装镜像加快安装

pip install opencv -i https://mirrors.aliyun.com/pypi/simple/
此处列举国内常用pip安装镜像：
:::tips
清华：https://pypi.tuna.tsinghua.edu.cn/simple
阿里云：https://mirrors.aliyun.com/pypi/simple/
中国科技大学: https://pypi.mirrors.ustc.edu.cn/simple/
华中理工大学：https://pypi.hustunique.com/
山东理工大学：https://pypi.sdutlinux.org/
豆瓣：https://pypi.douban.com/simple/
:::

2.3 错误解决

问题：
虚拟环境中安装包的时候，conda install…出现以下情况：
:::tips
Solving environment: failed with initial frozen solve. Retrying with flexible solve.
:::
解决：
将conda更新到最新的版本。需要更新两次，第一次更新的较快，但不完整。需要再输入相同的命令，第二次更新的很慢，如下：
:::tips

更新conda命令

conda update conda
:::

3、IDE安装和使用

3.1 VS Code安装和配置

3.1.1 下载安装

VS Code官网下载

文本	文本解释
User Installer	默认安装在当前计算机帐户目录，如果使用另一个帐号登陆计算机将无法使用别人安装的vscode。vscode默认提供的为User Installer
System Installer	安装在非用户目录,例如C盘根目录,任何帐户都可以使用。

看自己需要下载相应版本安装即可。

1. 点击.exe文件进行安装，选择同意协议，点击下一步；
2. 选择安装位置，单击浏览按需选择自己要设置的安装路径位置。然后点击下一步即可。注意：为了后期的稳定性，切勿使用中文路径。
3. 选择开始菜单文件夹，如需修改，请点击浏览进行设置，无需修改直接单击下一步即可；
4. 按需选择自己需要的附加任务，这里我推荐将其他中的所有选项都勾选上，对于创建桌面方式则按需选择是否勾选，我这里因为不需要所以就不勾选了。注意：添加到PATH一定要勾选，否则需要手动添加路径到环境变量中。
5. 确认自己前面设置的是否有误，无误则点击安装即可。

3.1.2 个性化设置

• 设置中文。在活动栏区域找到插件安装这个选项，单击它，在搜索框中搜索Chinese 选择第一个即可，选择Install进行安装。

• 设置颜色主题。找到设置，选择颜色主题，根据自己的喜好选择即可，如果你觉得没有，还可以选择浏览其他颜色主题进行预览选择。其余文件图标主题和产品图标主题的个性化设置同理。

3.2 Jupyter Lab安装和配置

Jupyter Lab 提供了一个基于 Web 的用户界面，支持在浏览器中直接编写代码、运行分析，并查看结果。强调的是交互式编程和数据可视化，允许用户逐段运行代码并即时查看输出，支持 Markdown 和富媒体，非常适合制作和展示研究结果。

3.2.1 安装

安装虚拟环境后可以通过下面命令安装JupyterLab：

pip install jupyterlab

安装完成后就可以使用下面命令启动JupyterLab（在哪个目录中执行启动命令默认就会打开哪个目录）：

jupyter-lab 
# 使用 ctrl + c 停止JupyterLab

默认情况下启动后会通过电脑上的默认浏览器打开界面，也可以手动打开链接：

http://localhost:8888/lab

3.2.2 个性化设置

• 安装中文，安装完成后可以在界面中进行设置

pip install jupyterlab-language-pack-zh-CN

• 配置文件

# 生成配置文件
jupyter-lab --generate-config

默认配置文件会在用户目录下 .jupyter\jupyter_lab_config.py ，其中部分配置项目如下：
c.ServerApp.ip 设置服务IP地址；
c.ServerApp.port 设置服务端口号；
c.ExtensionApp.open_browser 设置是否打开浏览器；
c.ServerApp.root_dir 设置默认文档路径；
生成配置文件后使用 jupyter-lab 命令启动服务默认就会加载配置文件中的内容。
如果地址设置为可以对外的地址的话（比如 0.0.0.0），初次通过浏览器访问时会提示输入Token或者创建新密码。