一. 硬件环境
微调模型需要在云服务器上搭建供大模型微调的环境。本周主要为云服务器配置好了环境。本次使用的硬件环境为:
二. Anaconda安装
需要安装Anaconda等来配置环境并安装包。因此首先安装Anaconda包,输入下列的命令安装相应版本的Anaconda,在阅读完须知后确认即可:
wget https://repo.anaconda.com/archive/Anaconda3-5.3.0-Linux-x86_64.sh
chmod +x Anaconda3-5.3.0-Linux-x86_64.sh
./Anaconda3-5.3.0-Linux-x86_64.sh
安装完成后输入conda -V来检测是否安装成功,返回了conda版本, 说明安装成功。
三. Pytorch安装
创建虚拟环境,并在该虚拟环境中安装相应版本的python和pytorch。去到官网上选择了相应版本的pytorch并且执行了安装:
conda create -n pytorch python=3.9
conda activate pytorch
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
测试发现安装成功。
至此,基本的环境搭建就已经准备好,接下来需要在创建的pytorch环境中为微调模型配置相应的环境。