书生大模型实战营-进阶关卡-6-MindSearch 快速部署

任务：将 MindSearch 部署到 HuggingFace 

教程：https://github.com/InternLM/Tutorial/blob/camp3/docs/L2/MindSearch/readme_github.md 

环境配置

打开codespace主页https://github.com/codespacescodespace主页，选择blank template。

新建一个目录用于存放 MindSearch 的相关代码，并把 MindSearch 仓库 clone 下来。在终端中运行下面的命令：

mkdir -p /workspaces/mindsearch
cd /workspaces/mindsearch
git clone https://github.com/InternLM/MindSearch.git
cd MindSearch && git checkout b832275 && cd ..

接下来，我们创建一个 conda 环境来安装相关依赖。

# 创建环境
conda create -n mindsearch python=3.10 -y
# 激活环境
conda activate mindsearch
# 安装依赖
pip install -r /workspaces/mindsearch/MindSearch/requirements.txt

Tips：如果遇到 “CondaError: Run 'conda init' before 'conda activate'” ， 执行下面的命令

source activate
conda activate mindsearch
pip install -r /workspaces/mindsearch/MindSearch/requirements.txt

获取硅基流动 API Key

1：注册硅基流动的账号：  https://account.siliconflow.cn/login 

2：准备 API Key： https://cloud.siliconflow.cn/account/ak ，首先创建新 API 密钥，然后点击密钥进行复制，以备后续使用。

启动 MindSearch 

启动后端

由于硅基流动 API 的相关配置已经集成在了 MindSearch 中，所以我们可以直接执行下面的代码来启动 MindSearch 的后端。

export SILICON_API_KEY=第二步中复制的密钥
cd /workspaces/mindsearch/MindSearch
python -m mindsearch.app --lang cn --model_format internlm_silicon --search_engine DuckDuckGoSearch

启动前端

在后端启动完成后，我们打开新终端运行如下命令来启动 MindSearch 的前端。

conda activate mindsearch
cd /workspaces/mindsearch/MindSearch
python frontend/mindsearch_gradio.py

github会自动提示我们打开一个在公网的前端地址。打开即可

让他介绍一下我的csdn博客（虽然它不知道） 

部署到 HuggingFace Space 

最后，我们来将 MindSearch 部署到 HuggingFace Space。

我们首先打开 https://huggingface.co/spaces ，并点击 Create new Space，如下图所示。

选择如下配置：

然后，进入 Settings，配置硅基流动的 API Key。如下图所示。

选择 New secrets，name 一栏输入 SILICON_API_KEY，value 一栏输入你的 API Key 的内容。

回到codespace，我们先新建一个目录，准备提交到 HuggingFace Space 的全部文件。

# 创建新目录
mkdir -p /workspaces/mindsearch/mindsearch_deploy
# 准备复制文件
cd /workspaces/mindsearch
cp -r /workspaces/mindsearch/MindSearch/mindsearch /workspaces/mindsearch/mindsearch_deploy
cp /workspaces/mindsearch/MindSearch/requirements.txt /workspaces/mindsearch/mindsearch_deploy
# 创建 app.py 作为程序入口
touch /workspaces/mindsearch/mindsearch_deploy/app.py

在最后，将 /root/mindsearch/mindsearch_deploy 目录下的文件（使用 git）提交到 HuggingFace Space 即可完成部署了。将代码提交到huggingface space的流程如下：

首先创建一个有写权限的token。

然后从huggingface把空的代码仓库clone到codespace。

# 切换到新目录
cd /workspaces
# 克隆远程仓库
git clone https://huggingface.co/spaces/<你的名字>/<仓库名称>
# 进入仓库
cd <仓库名称>
# 把token挂到仓库上，让自己有写权限
git remote set-url origin https://<你的名字>:<上面创建的token>@huggingface.co/spaces/<你的名字>/<仓库名称>

现在codespace就是本地仓库，huggingface space是远程仓库，接下来使用方法就和常规的git一样了。

# 把刚才准备的文件都copy进来
cp -r /workspaces/mindsearch/mindsearch_deploy/* .

 

代码提交到 huggingface space  

git add .
git commit -m "update"
git push

  huggingface space 会自动启动项目， 回到之前的space , 然后就可以测试。了

我们也测试一下黑悟空，毕竟这两天很火的3A大作。

再搜索一下我自己试试：确实找对了。