老牛同学之前使用的MacBook Pro电脑配置有点旧(2015 年生产),跑大模型感觉有点吃力,操作起来有点卡顿,因此不得已捡起了尘封了快两年的MateBook Pro电脑(老牛同学其实不太喜欢用 Windows 电脑做研发工作)。此文注意是记录配置新电脑的内容,一来给老牛同学留个备忘,同时也特别希望能给其他朋友一些帮助。
配置一台方便用于大模型应用研发的新电脑,最基础的需要包括以下配置内容:
- Miniconda包管理工具的安装和配置(兼容pip)
- Python虚拟环境配置(指定 Python 版本且无需单独下载 Python 安装)
- Jupyter Lab Python 研发 WebIDE 配置
- Ollama本地大模型管理软件的配置和应用
- Ollama大模型 Web 界面对话客户端配置和使用
Miniconda 安装和配置
Miniconda和pip都是 Python 生态中的两个不同的包管理工具,它们都用于安装和管理 Python 包。但是在大模型相关的应用研发中,老牛同学推荐使用Miniconda的原因:
- 包范围: Miniconda 通过 Conda 可以管理 Python 以及非 Python 包,而 pip 只管理 Python 包。
- 环境管理: Miniconda 内置了环境管理功能,而 pip 需要与其他工具(如 virtualenv 或 venv)搭配使用以创建隔离的环境。
- 包源: pip 通常从 PyPI 下载包,而 Conda 从 Anaconda Repository 或其他自定义设置的通道下载。
- 包格式: Conda 使用自己的包格式(.conda 或.tar.bz2),而 pip 使用 wheel 或源码形式。
- 依赖解决: Conda 在安装包时会考虑到系统级别的依赖和包之间的依赖关系,而 pip 主要解决 Python 级别的依赖。
在实际使用中,由于Minionda可以很好地处理复杂的依赖关系和环境管理,它通常是首选工具。但是,如果只需要安装纯 Python 包,使用pip可能会更加简单直接。
第一步: 下载地址:https://docs.anaconda.com/miniconda/
根据操作系统,选择安装包,支持包括:Windows、MacOS 和 Linux 系统
第二步: 安装和配置:安装过程和普通软件没有两样,安装完成之后,我们配置 Python 环境:
老牛同学的安装目录是:D:\Software\miniconda3
因后面需要执行conda
命令,因此提前把以下目录添加到系统环境变量中(变量名:Path
):
- 安装目录:
D:\Software\miniconda3
- 脚本目录:
D:\Software\miniconda3\Scripts
- 依赖库目录:
D:\Software\miniconda3\Library\bin
第三步: 设置 Conda 虚拟环境目录(可选):默认情况下,虚拟环境内容在C:\
盘,老牛同学 C 盘比较较小,就把它设置到D:\
盘
打开 Termianl 终端,查看Conda基本信息:conda info
> conda info
active environment : None
user config file : C:\Users\obull\.condarc
populated config files :
conda version : 24.4.0
conda-build version : not installed
python version : 3.12.3.final.0
solver : libmamba (default)
virtual packages : __archspec=1=x86_64_v3
__conda=24.4.0=0
__win=