LLM_Web_Search 开源项目常见问题解决方案

LLM_Web_Search 开源项目常见问题解决方案

LLM_Web_search An extension for oobabooga/text-generation-webui that enables the LLM to search the web using DuckDuckGo 项目地址: https://gitcode.com/gh_mirrors/ll/LLM_Web_search

项目基础介绍

LLM_Web_Search 是一个为 oobabooga/text-generation-webui 开发的扩展项目，旨在赋予本地语言模型（LLM）通过 DuckDuckGo 进行网络搜索的能力。该项目通过输出特定命令，使用正则表达式在模型输出中找到该命令，然后使用 duckduckgo-search 进行网络搜索并返回结果页面。最终，通过 LangChain 的 Contextual compression 和 Okapi BM25（或 SPLADE）提取网页中的相关部分，并将结果附加到模型的输出中。

该项目主要使用 Python 编程语言，依赖于 oobabooga/text-generation-webui 的基础环境。

新手使用注意事项及解决方案

1. 安装扩展时的依赖问题

问题描述：新手在安装扩展时可能会遇到依赖项安装失败的问题，尤其是在使用 pip 安装时，可能会因为系统环境不兼容而导致安装失败。

解决方案：

1. 使用 update_wizard 脚本：进入 text-generation-webui 文件夹，运行 update_wizard 脚本，选择“Install/update extensions requirements”选项，这将使用 pip 安装所有依赖项。
2. 手动更新 conda 环境：如果使用 conda 环境，可以手动更新环境。打开终端或 conda shell，进入 text-generation-webui/extensions/LLM_Web_search 目录，运行以下命令：

   conda env update -p <path_to_your_environment> --file environment.yml
   

   其中 <path_to_your_environment> 需要替换为 text-generation-webui 文件夹中 /installer_files/env 子文件夹的路径。

2. 自定义正则表达式的问题

问题描述：用户可能需要自定义正则表达式来匹配特定的命令，但可能会因为正则表达式语法错误导致无法正确匹配。

解决方案：

1. 学习正则表达式基础：建议新手先学习正则表达式的基本语法，了解如何编写有效的正则表达式。
2. 测试正则表达式：在编写正则表达式后，可以使用在线正则表达式测试工具（如 regex101.com）进行测试，确保表达式能够正确匹配目标字符串。
3. 逐步调试：如果正则表达式在实际使用中无法匹配，可以逐步调试，检查每一部分是否符合预期。

3. 搜索结果提取的相关性问题

问题描述：在使用 LangChain 提取网页内容时，可能会遇到提取的内容与预期不符，相关性不高的问题。

解决方案：

1. 调整搜索参数：尝试调整搜索参数，如搜索深度、结果数量等，以获取更相关的结果。
2. 优化提取模型：如果使用的是 Okapi BM25 或 SPLADE，可以尝试调整模型的参数，如权重、阈值等，以提高提取的相关性。
3. 手动检查结果：在自动提取结果后，手动检查提取的内容，确保其相关性，并根据需要进行调整。

通过以上解决方案，新手可以更好地理解和使用 LLM_Web_Search 项目，解决常见问题，提升项目的使用效果。

LLM_Web_search An extension for oobabooga/text-generation-webui that enables the LLM to search the web using DuckDuckGo 项目地址: https://gitcode.com/gh_mirrors/ll/LLM_Web_search