LLocalSearch 开源项目教程

LLocalSearch 开源项目教程

LLocalSearchLLocalSearch is a completely locally running search aggregator using LLM Agents. The user can ask a question and the system will use a chain of LLMs to find the answer. The user can see the progress of the agents and the final answer. No OpenAI or Google API keys are needed.项目地址:https://gitcode.com/gh_mirrors/ll/LLocalSearch

项目介绍

LLocalSearch 是一个完全在本地运行的搜索聚合器，使用 LLM（大型语言模型）代理。用户可以提出问题，系统将使用一系列 LLM 来找到答案。用户可以看到代理的进度和最终答案。该项目不需要 OpenAI 或 Google API 密钥。

项目快速启动

克隆项目

首先，克隆 LLocalSearch 项目到本地：

git clone https://github.com/nilsherzig/LLocalSearch.git
cd LLocalSearch

配置环境

复制目录中的环境配置文件 env-example 为 env，然后修改其中的变量：

cp env-example env

编辑 env 文件，设置 OLLAMA_HOST：

OLLAMA_HOST=http://[本机IP]:11434

启动项目

在项目路径下执行以下命令启动 LLocalSearch：

docker-compose up

启动结束后，可以在浏览器中访问：

http://localhost:3000/

第一次提问后，LLocalSearch 会通过 Ollama 下载大模型，时间较长，需要耐心等待。

应用案例和最佳实践

应用案例

LLocalSearch 可以用于本地搜索和信息检索。例如，用户可以提问“什么是量子纠缠”，LLocalSearch 会通过搜索、分析、提炼和总结，给出结果并提供参考资料列表。

最佳实践

1. 本地化部署：由于 LLocalSearch 完全在本地运行，适合对数据隐私有较高要求的用户。
2. 自定义模型：用户可以根据需要配置和使用不同的本地大模型。
3. 集成其他应用：LLocalSearch 可以与其他本地应用集成，提供搜索和信息检索功能。

典型生态项目

Ollama

Ollama 是 LLocalSearch 使用的本地大模型管理工具。它简化了本地大模型的配置和运行。

Docker

Docker 用于管理 LLocalSearch 的容器化部署，确保应用在不同环境中的一致性和可移植性。

Docker Compose

Docker Compose 用于管理多个容器的编排，使得 LLocalSearch 的启动和运行更加简单和高效。

通过以上步骤和案例，您可以快速启动并使用 LLocalSearch 进行本地搜索和信息检索。

LLocalSearchLLocalSearch is a completely locally running search aggregator using LLM Agents. The user can ask a question and the system will use a chain of LLMs to find the answer. The user can see the progress of the agents and the final answer. No OpenAI or Google API keys are needed.项目地址:https://gitcode.com/gh_mirrors/ll/LLocalSearch