一、ollama的连通性测试
参考文档:API 参考 - Ollama中文网
1.使用api测试ollama qwen大模型的连通性
curl --location --request POST 'http://192.168.110.216:11434/api/generate' \
--header 'User-Agent: Apifox/1.0.0 (https://apifox.com)' \
--header 'Content-Type: application/json' \
--data-raw '{
"model": "qwen:7b",
"prompt": "你好!",
"stream": false
}'
输出信息:
{
"model": "qwen:7b",
"created_at": "2024-07-16T09:50:46.903797271Z",
"response": "你好!有什么我能帮你的吗?",
"done": true,
"done_reason": "stop",
"context": [
151644,
872,
......
11319
],
"total_duration": 1200826373,
"load_duration": 2290434,
"prompt_eval_duration": 129797000,
"eval_count": 9,
"eval_duration": 1021756000
}
2.使用api测试ollama m3e索引模型的连通性
注意:地址后缀要更改为/api/embeddings
curl --location --request POST 'http://192.168.110.216:11434/api/embeddings' \
--header 'User-Agent: Apifox/1.0.0 (https://apifox.com)' \
--header 'Content-Type: application/json' \
--data-raw