ollama
是一个管理和运行大型语言模型的工具,提供了多个命令和选项来帮助你方便地操作和部署模型。以下是对 ollama
工具的所有命令和参数的详细说明:
主要命令
-
serve
启动ollama
,将模型作为服务运行。- 用途:适合长期运行模型服务,通常用于接收外部请求并返回模型推理结果。
- 示例:
ollama serve
-
create
使用Modelfile
创建一个新的模型。- 用途:用于从一个描述模型的文件(
Modelfile
)创建新的模型实例。 - 示例:
ollama create MyModel Modelfile.yaml
- 用途:用于从一个描述模型的文件(
-
show
显示模型的详细信息。- 用途:查看已存在模型的详细信息。
- 示例:
ollama show deepseek:32b
-
run
执行一个模型并返回结果。- 用途:运行一个指定的模型,适合一次性执行模型的推理。
- 示例:
ollama run deepseek:32b "What is the capital of France?" --format json
-
stop
停止正在运行的模型实例。- 用途:关闭一个已经启动的模型服务。
- 示例:
ollama stop deepseek:32b
-
pull
从注册中心拉取(下载)一个模型。- 用途:从外部注册中心获取并下载一个模型。
- 示例:
ollama pull deepseek:32b
-
push
将模型推送到一个注册中心。- 用途:将本地模型上传到模型注册中心,通常是共享或部署模型时使用。
- 示例:
ollama push deepseek:32b
-
list
列出所有已安装的模型。- 用途:查看本地的所有可用模型。
- 示例:
ollama list
-
ps
列出当前正在运行的模型实例。- 用途:查看正在运行的模型,通常用于监控模型的状态。
- 示例:
ollama ps
-
cp
复制模型。- 用途:复制一个模型到另一个位置或名称。
- 示例:
ollama cp oldModel newModel
-
rm
删除一个模型。- 用途:删除本地的一个模型实例。
- 示例:
ollama rm deepseek:32b
-
help
获取帮助信息。- 用途:查看
ollama
命令或某个子命令的详细帮助信息。 - 示例:
ollama help
- 用途:查看
常用全局标志
-
-h, --help
显示帮助信息。- 用途:显示关于
ollama
命令或某个子命令的帮助。 - 示例:
ollama --help
- 用途:显示关于
-
-v, --version
显示版本信息。- 用途:查看当前安装的
ollama
版本。 - 示例:
ollama --version
- 用途:查看当前安装的
总结
ollama serve
:适用于启动长期运行的模型服务。ollama run
:适用于执行一次性请求,适合简单的模型推理。ollama create
、ollama push
、ollama pull
:用于模型的创建、上传和下载。ollama ps
、ollama list
:用于查看已安装或正在运行的模型。
你可以根据需要选择合适的命令来管理你的模型服务。