利用langchain框架集成ollam模型实现基础聊天对话

.com342

已于 2025-04-26 09:32:47 修改

阅读量303

点赞数 7

文章标签： llama langchain linux

于 2025-04-26 09:30:06 首次发布

本文链接：https://blog.csdn.net/qq_63088428/article/details/147526521

版权

安装和设置

ollama安装

本机为Linux系统，直接通过命令行安装

curl -fsSL https://ollama.com/install.sh | sh

安装完成后下载模型，模型来源ollam官方模型库

langchain安装

使用以下命令安装集成包

pip install langchain-ollama

注意，如果在conda环境中安装，出现安装成功但是环境中没有的情况，可以参考
使用pip install 命令安装包但是未能正确安装到当前环境

应用示例

from langchain_ollama import ChatOllama

llm = ChatOllama(
    model = "llama3",
    temperature = 0.8,
    num_predict = 256,
    # other params ...
)
messages = [
    ("system", "You are a helpful translator. Translate the user sentence to French."),
    ("human", "I love programming."),
]
response = llm.invoke(messages)
return response.content