【书生大模型实战营】MindSearch CPU-only 版部署

MindSearch CPU-only 版部署

任务

将 MindSearch 部署到 HuggingFace 并美化 Gradio 的界面，并提供截图和 Hugging Face 的Space的链接。

步骤

按照官方教程，实现在网页上打开MindSearch。

首先，打开codespace主页，选择blank template，创建一个vscode界面。

然后新建一个目录用于存放 MindSearch 的相关代码，并把 MindSearch 仓库 clone 下来：

mkdir -p /workspaces/mindsearch
cd /workspaces/mindsearch
git clone https://github.com/InternLM/MindSearch.git
cd MindSearch && git checkout b832275 && cd ..

然后创建一个python环境，用于运行mindsearch：

conda create -n mindsearch python=3.10 -y
# 激活环境
conda activate mindsearch
# 安装依赖
pip install -r /workspaces/mindsearch/MindSearch/requirements.txt

然后获取硅基流动的API，用于启动MindSearch服务，用如下命令设置环境变量：

export SILICON_API_KEY=第二步中复制的密钥

然后运行MindSearch程序：

conda activate mindsearch
cd /workspaces/mindsearch/MindSearch
python -m mindsearch.app --lang cn --model_format internlm_silicon --search_engine DuckDuckGoSearch

上面一步是启动了后端API服务，然后启动前端服务：

conda activate mindsearch
cd /workspaces/mindsearch/MindSearch
python frontend/mindsearch_gradio.py

最终得到如下的网站：

然后在Huggingface上部署。

创建space空间，然后找到Setting，创建一个secret，命名为SILICON_API_KEY，并填入之前创建的硅基流动Key：

然后创建secret-token用于同步仓库，如下：

在github的codespace上克隆创建好的仓库：

git clone https://huggingface.co/spaces/lzl2040/MindSearch_v1

然后配置secret-token，让自己有写的权限：

git remote set-url origin https://<你的名字>:<上面创建的token>@huggingface.co/spaces/<你的名字>/<仓库名称>

然后在本地进入该仓库，将之前在本地创建的文件都复制进来：

cp -r /workspaces/mindsearch/mindsearch_deploy/* .

然后将代码提交到远程仓库：

git add .
git commit -m "update"
git push

最终的huggingface链接为：MindSearch

界面如下：