系列文章目录
往期文章:
目录
前言
本地部署了大模型,下一步任务便是如何调用的问题,实际场景中个人感觉用http请求的方式较为合理,本篇文章也将通过http请求的方式来调用我们本地部署的大模型,正文开始。
一、ollama库调用
参考文档:ollama的python库调用
注意,这里的ollama不是我们第一篇安装的那个Ollama!!!!不要搞混
1、环境准备:
pip install ollama
2、调用示例:
- 如果你都是按照默认设置安装的Ollama,即host