ollama本地运行大模型

下载安装ollama

地址：https://ollama.com/download
选择对应版本

搜索要本地运行

地址：https://ollama.com/library

下载运行模型

以千问小模型为例，命令行执行 ollama run qwen2:0.5b
下载运行后可以开始提问

API接口访问

文档地址：https://github.com/ollama/ollama/blob/main/docs/api.md

curl -X POST http://localhost:11434/api/generate -d '{
  "model": "qwen2:0.5b",
  "prompt":"Why is the sky blue?"
 }'