下载 Ollama
Ollama的官网地址
Ollame的官网介绍
1、ollama安装或者更新
自动安装或者更新
#Linux
curl -fsSL https://ollama.com/install.sh | sh
这块我们可以直接下载,他是默认下载最新版本的。你也可以手动安装
手动安装
将其下载到您的 PATH 中的目录
sudo curl -L https://ollama.com/download/ollama-linux-amd64 -o /usr/bin/ollama
sudo chmod +x /usr/bin/ollama
为 Ollama 创建一个用户
sudo useradd -r -s /bin/false -m -d /usr/share/ollama ollama
在 /etc/systemd/system/ollama.service 中创建一个服务文件:
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
[Install]
WantedBy=default.target
然后启动服务:
sudo systemctl daemon-reload
sudo systemctl enable ollama
2、ollama常用指令
#使用感觉和docker类似,输出ollama就会有提示
ollama serve #启动ollama
ollama create #从模型文件创建模型
ollama show #显示模型信息
ollama run #运行模型
ollama pull #从注册表中拉取模型
ollama push #将模型推送到注册表
ollama list #列出模型
ollama cp #复制模型
ollama rm #删除模型
ollama help #获取有关任何命令的帮助信息
3、卸载
移除 ollama 服务:
sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service
4、使用实例:举例 Llama3使用示例
#下载模型
ollama pull llama3
#下载成功查看模型
ollama list
#运行模型
ollama run llama3