首先进入docker中运行以下命令:
安装yum-utils
yum install -y yum-utils device-mapper-persistent-data lvm2 --skip-broken
更换下载源为:阿里云
yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
安装docker:
yum install -y docker-ce
关闭防火墙
systemctl stop firewalld
下次开机,不启动防火墙
[root@docker3 ~]# systemctl disable firewalld
拉取ollama镜像:
[root@docker3 ~]# docker pull ollama/ollama
启动docker:
systemctl start docker
开机自动运行:(root权限账户下,可省略sudo)
sudo systemctl enable docker
查看docker中的镜像:docker images
查看docker中的进程:docker ps
运行ollama:
[root@docker3 ~]# docker run --name myollama -d -p 11434:11434 ollama/ollama
运行docker中的llama2 :
[root@docker3 ~]# docker exec -it myollama ollama run llama2