MindSearch CPU-only 版部署

MindSearch 是一个由上海人工智能实验室推出的开源 AI 搜索引擎框架,它结合了大规模信息搜集和整理能力,能够在几分钟内完成通常需要人类几个小时才能完成的信息搜集任务。它利用了 InternLM2.5 7B 对话模型,通过模拟人类思维的方式,先规划后搜索,提高了信息的准确性和完整性。MindSearch 的主要功能包括复杂查询处理、动态图构建、并行信息检索、分层检索策略、上下文管理、响应生成等,旨在提供准确、全面且深入的响应来回答问题。

MindSearch 的技术原理包括 WebPlanner 和 WebSearcher 两个关键组件,分别负责任务拆解和动态规划以及子问题搜索和信息整合。它通过构建有向无环图(DAG)来模拟人类解决问题时的思维过程,逐步细化问题并探索解决方案。此外,MindSearch 还采用了多智能体框架,实现了任务的并行处理和信息的有效整合。

MindSearch 项目已经全栈开源,用户可以免费体验和本地部署。它提供了多种用户界面,包括 React、Gradio、Streamlit 和本地调试,以满足不同用户的需求。此外,MindSearch 还提供了在线 Demo,用户可以无需下载安装即可体验其功能。

总的来说,MindSearch 是一个强大的 AI 搜索引擎,它通过模拟人类思维过程,为用户提供了深度、广度和准确性兼备的搜索体验。它的开源特性也意味着它将不断进化,解决现有局限性,并为用户提供更全面、更可靠的搜索体验。

部署过程需要在开发机上部署环境安装依赖,主要是去SILICONFLOW获取API Key:
首先,我们打开 https://account.siliconflow.cn/login 来注册硅基流动的账号(如果注册过,则直接登录即可)。

在完成注册后,打开 https://cloud.siliconflow.cn/account/ak 来准备 API Key。首先创建新 API 密钥,然后点击密钥进行复制,以备后续使用。
在这里插入图片描述

MindSearch需要后端和前端启动:

由于硅基流动 API 的相关配置已经集成在了 MindSearch 中,所以我们可以直接执行下面的代码来启动 MindSearch 的后端。

export SILICON_API_KEY=第二步中复制的密钥
conda activate mindsearch
cd /root/mindsearch/MindSearch
python -m mindsearch.app --lang cn --model_format internlm_silicon --search_engine DuckDuckGoSearch

3.2 启动前端
在后端启动完成后,我们打开新终端运行如下命令来启动 MindSearch 的前端。

c

onda activate mindsearch
cd /root/mindsearch/MindSearch
python frontend/mindsearch_gradio.py

最后,我们把 8002 端口和 7882 端口都映射到本地。可以在本地的 powershell 中执行如下代码:

ssh -CNg -L 8002:127.0.0.1:8002 -L 7882:127.0.0.1:7882 root@ssh.intern-ai.org.cn -p <你的 SSH 端口号>

在这里插入图片描述

MindSearch 部署到Github Codespace 和 Hugging Face Space

部署后可以检索到黑悟空:
在这里插入图片描述
planner问题1:黑悟空是什么?
searcher:从若干网页中查到黑悟空游戏
在这里插入图片描述
planer问题2:古典小说中的 孙悟空背景:
在这里插入图片描述
planner:游戏黑悟空的主要内容和特色:
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值