在CentOS7虚拟机上使用Ollama本地部署Llama3大模型中文版+Open WebUI

一、创建虚拟机

1.1按照常规的CentOS教程来安装就行，我用的是以下版本：

VMware版本：VMware Workstation Full v12.1.0-3272444 中文正式版

镜像版本：CentOS-7-x86_64-DVD-2009

1.2虚拟机配置参数，如下：

二、升级虚拟机必要组件功能

2.1运行以下命令可以更新系统中的所有安装的软件包至最新版本：

sudo yum update

**注意：**安装过程中会多次提示：“Is this ok [y/N]”:，需要手动键入“y”，才能继续进程，后续安装过程同样会遇到这个提示，不会再赘述。

2.1更新系统软件包后，你可以使用以下命令来检查系统是否有需要的更新：

sudo yum check-update

2.2升级python3（建议按照自己的习惯升级）

这里举例我常用的升级命令：

sudo yum install epel-release
sudo yum install python3
sudo yum install python3-devel
sudo yum install python3-pip
python3 --version

三、安装Ollama

3.1安装Ollama的过程很费时间，几十分钟到大几个小时不等，安装命令如下：

curl -fsSL https://ollama.com/install.sh | sh

1000Mbps的光纤，蹲个坑回来下了这么点…屑。

四、部署Llama3-8B-Chine