大模型系统之 01 duckdb-nsql-7B 的 7B 参数文本到 :Text2SQL OpenSource：duckdb-nsql-7B，在本地设置上带有 Ollama 和 LlamaIndex

随着 DuckDB 作为查询引擎成为人们谈论的话题，还有什么比尝试DUCKDB-NSQL-7B来自 motherduck 的热门和新鲜产品更好的实验呢？使用 20 万个 DuckDB 文本到 SQL 对进行训练，并使用Mixtral-8x7B-Instruct-v0综合生成.1，以 DuckDB v0.9.2 文档为指导。

对于本文，我将使用 ollama 运行它，这将是一件轻而易举的事情

步骤很简单：

• 为 Windows 安装 ollama 并配置（模型位置等…）它。
• 拉上DUCKDB-NSQL-7B当地的ollama
• NLSQLTableQueryEngine在销售数据库上运行精彩的 LlamaIndexclassicmodels并测试 duckdb-nsql 的 text2sql 功能
  出发吧！

第 1 步：安装并配置 Ollama

Windows 版 Ollama 已打开preview，但是我从 Ollama 的网站下载了它并安装了它！

接下来，为了正确组织我的模型，我创建了两个环境变量：OLLAMA_MODELS和OLLAMA_HOST。第一个用于将我的模型存储在远离我的地方C:，第二个用于运行本地 Ollama 服务器。

OLLAMA_MODELS=D:\ollama_models
OLLAMA_HOST=localhost

我发现，设置这些 ENV 变量的说明对于 Mac 来说有点不同，因为它涉及一个launchtl步骤，请阅读此处。

一旦安装完成，一个小的 Ollama 图标就会出现在icon tray