MindSearch 部署到Github Codespace 和 Hugging Face Space

于 2024-10-06 13:09:07 发布
阅读量283 收藏 3
点赞数 3
分类专栏： 大模型 文章标签： 书生·浦语 大模型 部署 书生 提示工程
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_47524641/article/details/142724608
版权

MindSearch 部署到Github Codespace 和 Hugging Face Space

参考教程

随着硅基流动提供了免费的 InternLM2.5-7B-Chat 服务（免费的 InternLM2.5-7B-Chat 真的很香），MindSearch 的部署与使用也就迎来了纯 CPU 版本，进一步降低了部署门槛。那就让我们来一起看看如何使用硅基流动的 API 来部署 MindSearch 吧。

部署Github Codespace

在这里插入图片描述
在这里插入图片描述

部署Huggingface

注意在requirements中需添加class_registry

在这里插入图片描述
在这里插入图片描述

MindSearch 部署到Github Codespace 和 Hugging Face Space（学习笔记）
weixin_49463617的博客
09-01 944
随着硅基流动提供了免费的 InternLM2.5-7B-Chat 服务（免费的 InternLM2.5-7B-Chat 真的很香），MindSearch 的部署与使用也就迎来了纯 CPU 版本，进一步降低了部署门槛。在最后，将 /root/mindsearch/mindsearch_deploy 目录下的文件（使用 git）提交到 HuggingFace Space 即可完成部署了。现在codespace就是本地仓库，huggingface space是远程仓库，接下来使用方法就和常规的git一样了。
【MindSearch】MindSearch 部署到Github Codespace 和 Hugging Face Space
googteo的博客
09-10 157
https://huggingface.co/spaces/Awaken/huixiang
书生实战营-L2-MindSearch 部署到Github Codespace 和 Hugging Face Space
m0_52343470的博客
08-30 360
由于硅基流动 API 的相关配置已经集成在了 MindSearch 中，所以我们可以直接执行下面的代码来启动 MindSearch 的后端。首先创建新 API 密钥，然后点击密钥进行复制，以备后续使用。最后，我们先新建一个目录，准备提交到 HuggingFace Space 的全部文件。填这个new secrets时候，复制API Key一定要显性复制，不然会报错。在后端启动完成后，我们打开新终端启动 MindSearch 的前端。来注册硅基流动的账号（如果注册过，则直接登录即可）。
书生·浦语大模型实战营(MindSearch 部署到Github Codespace 和 Hugging Face Space)
最新发布
u013232710的博客
09-25 228
其中，app.py 的内容如下可查看以下链接:git clone https://huggingface.co/spaces/<你的名字>/<仓库名称>cd <仓库名称>
MindSearch HuggingFace部署 + 小白详细步骤
VC_Alexa的博客
08-24 621
尤其教程最后一步一句话：将 /root/mindsearch/mindsearch_deploy 目录下的文件（使用 git）提交到 HuggingFace Space 即可完成部署。借着github的codespaces窗口里继续写，按教程创建复制好文件，mindsearch_deploy文件夹下创建app.py。去setting设置access token，创建一个新的，记下name，创建复制好那一串密钥到别处备用。老样子，右边不出字，我之前就这样，不纠结了。按教程即可，中间有个小技巧解决。
进阶岛 - MindSearch(CPU版)部署到github codespace
纸上得来终觉浅 绝知此事要躬行
08-23 992
github codespace很好用，丝滑、快速huggingface的space管理代码也很好用，自动编译、容器打包、发布一气呵成mindsearch很好用，效果超出预想。planner和searcher的交互丝滑、有效率。mindsearch内置搜索可解决很多通用问题，让agent的外挂API可以聚焦特定场景不重复造轮子效果于远远超出以前试用的各种开源Agent，具备实用价值。
MindSearch 部署到Hugging Face Space
2303_77267815的博客
09-07 742
按照教程，将 MindSearch 部署到 HuggingFace 并美化 Gradio 的界面，并提供截图和 Hugging Face 的Space的链接。首先，我们打开 https://account.siliconflow.cn/login 来注册硅基流动的账号（如果注册过，则直接登录即可）。由于硅基流动 API 的相关配置已经集成在了 MindSearch 中，所以我们可以直接执行下面的代码来启动 MindSearch 的后端。浏览器会自动在新的页面打开一个web版的vscode。
InternStudio大模型之路（十六）：MindSearch 快速部署到Github 和 Hugging Face
weixin_56460049的博客
09-06 937
随着硅基流动提供了免费的 InternLM2.5-7B-Chat 服务（免费的 InternLM2.5-7B-Chat 真的很香），MindSearch 的部署与使用也就迎来了纯 CPU 版本，进一步降低了部署门槛。那就让我们来一起看看如何使用硅基流动的 API 来部署 MindSearch 吧。
MindSearch 部署的到 Hugging Face Space
GYX67的博客
08-23 770
和相比区别是把internstudio换成了github codespace。随着硅基流动提供了免费的 InternLM2.5-7B-Chat 服务（免费的 InternLM2.5-7B-Chat 真的很香），MindSearch 的部署与使用也就迎来了纯 CPU 版本，进一步降低了部署门槛。那就让我们来一起看看如何使用硅基流动的 API 来部署 MindSearch 吧。
Hugging Face快速入门（重点讲解模型(Transformers)和数据集部分(Datasets)）
热门推荐
iioSnail的博客
08-08 7万+
1. Hugging Face是什么，提供了哪些内容 2. Hugging Face模型的使用（Transformer类库） 3. Hugging Face数据集的使用（Datasets类库）
[LLM]Hugging Face 的 Autotrain-Advanced 探索
摩登都市天空---专栏
07-03 917
AutoTrain Advanced，这是一款无代码工具，专门设计用于让用户无需编写一行代码即可创建、微调和部署自己的 AI 模型。只需上传数据即可训练自定义机器学习模型。AutoTrain 将自动为你的数据找到最佳模型。它不仅可以帮助机器学习工程师，甚至可以帮助非开发人员轻松训练最先进的 ML 模型。只需要简单几步即可快速完成模型的微调、训练、推理和部署。AutoTrain 是一种自动训练和部署最先进的机器学习模型的方法，与 Hugging Face 生态系统无缝集成。
hugging face 使用教程———快速入门
TigerZ*的博客
07-24 2200
本篇存在的意义是快速介绍hugging face使用，梳理主要部件，梳理易混淆概念。原因是：目前hugging face的使用，官方放在了3个地方（参考链接部分）：使用文档、NLP教程、Transformers git的readme 文件，很多重叠内容比较浪费时间，很容易看懵。等大家有了主要概念再去看需要具体看某个函数或功能。
180B参数的Falcon登顶Hugging Face，vs chatGPT 最好开源大模型使用体验
Cachel Wood的博客
09-09 1422
在回答问题的深度和广度上都明显优于只有70亿参数量的。拥有1800亿的参数量，在智能问答领域做到了。，并且对中文的支持更好。
调试hugging face的transformers框架
我乐飞的技术博客
12-14 2338
使用pycharm，远程调试服务骑上的代码时，transformer的代码跳转不进去，会失败，为了详细研究transformer的代码，可以把transformer源码下下来，在进行调试即可。
不科学上网使用Hugging Face的Transformers库
数字人生
05-01 3537
总之，通过上述方法，即使不科学上网，也可以在国内正常使用Hugging Face的Transformers库进行自然语言处理相关的研究和开发工作。如果使用的是Docker，并且需要拉取Hugging Face的Transformers库的镜像，可能需要配置Docker以使用代理。此外，为了确保安装过程顺利，可以尝试通过清华大学的镜像源来安装所需的依赖包，这样可以加快下载速度并避免潜在的网络问题。通过上述方法，即使在没有互联网连接的情况下，也可以使用Hugging Face的Transformers库。
【NLP模型微调实战】：独家揭秘如何使用Hugging Face优化特定任务模型训练
[【NLP模型微调实战】：独家揭秘如何使用Hugging Face优化特定任务模型训练](https://cdn.thenewstack.io/media/2023/06/5b642950-huggingface_feature2-1024x568.jpg) # 1. NLP模型微调基础知识 ## 1.1 微调的重要...
大语言模型的学习路线和开源模型的学习材料《一》
11-01 786
【LLMs 入门实战】 ChatGLM3 模型学习与实战【LLMs 入门实战】 ChatGLM3 模型微调学习与实战【ChatGLM2-6B入门】清华大学开源中文版ChatGLM-6B模型学习与实战【关于 ChatGLM2 + LoRA 进行finetune 】那些你不知道的事【LLMs 入门实战 】基于 🤗PEFT 的高效 🤖ChatGLM2-6B 微调【LLMs 入门实战】基于 🤗QLoRA 的高效 🤖ChatGLM2-6B 微调【LLMs 入门实战】 QLoRA微调Llama2 模型学习与实战
清华和哈工大把大模型量化做到了1比特，把世界顶尖多模态大模型开源大模型量化个人电脑运行！机器人领域首个开源视觉-语言操作大模型，激发开源VLMs更大潜能，视 Mamba速度提升2.8倍，内存能省87%
代码讲故事
04-27 871
清华和哈工大把大模型量化做到了1比特，把世界顶尖多模态大模型开源大模型量化个人电脑运行！机器人领域首个开源视觉-语言操作大模型，激发开源VLMs更大潜能，视 Mamba速度提升2.8倍，内存能省87%。
flask项目部署到github
06-02
可以将 Flask 项目部署到 GitHub Pages 或者使用 GitHub Actions 自动部署到服务器。 方法一：部署到 GitHub Pages 1. 在 GitHub 上创建一个新的 repository。 2. 在本地创建一个 Flask 项目，并将其推送到 GitHub repository。 3. 在项目根目录下创建一个名为 `docs` 的文件夹，并在其中创建一个名为 `index.html` 的文件。此文件将作为 GitHub Pages 的主页。 4. 在项目根目录下创建一个名为 `.github/workflows` 的文件夹，并在其中创建一个名为 `deploy.yml` 的文件。此文件将自动部署项目到 GitHub Pages。 5. 在 `deploy.yml` 文件中添加以下代码： ```yaml name: Deploy on: push: branches: - main jobs: deploy: runs-on: ubuntu-latest steps: - name: Checkout code uses: actions/checkout@v2 - name: Setup Python uses: actions/setup-python@v2 with: python-version: '3.x' - name: Install dependencies run: pip install -r requirements.txt - name: Build static files run: | export FLASK_APP=app.py flask build - name: Deploy to GitHub Pages uses: peaceiris/actions-gh-pages@v3 with: github_token: ${{ secrets.GITHUB_TOKEN }} publish_dir: ./docs ``` 6. 推送代码到 GitHub repository，GitHub Actions 将自动部署项目到 GitHub Pages。 方法二：使用 GitHub Actions 自动部署到服务器 1. 在 GitHub 上创建一个新的 repository。 2. 在本地创建一个 Flask 项目，并将其推送到 GitHub repository。 3. 在服务器上安装 Docker 和 Docker Compose。 4. 在项目根目录下创建一个名为 `.github/workflows` 的文件夹，并在其中创建一个名为 `deploy.yml` 的文件。此文件将自动部署项目到服务器。 5. 在 `deploy.yml` 文件中添加以下代码： ```yaml name: Deploy on: push: branches: - main jobs: deploy: runs-on: ubuntu-latest steps: - name: Checkout code uses: actions/checkout@v2 - name: Setup Python uses: actions/setup-python@v2 with: python-version: '3.x' - name: Install dependencies run: pip install -r requirements.txt - name: Build static files run: | export FLASK_APP=app.py flask build - name: Build Docker image run: | docker-compose build - name: Push Docker image to registry uses: docker/build-push-action@v2 with: context: . push: true tags: user/app:${{ github.sha }} env: DOCKER_USERNAME: ${{ secrets.DOCKER_USERNAME }} DOCKER_PASSWORD: ${{ secrets.DOCKER_PASSWORD }} - name: Deploy to server uses: appleboy/ssh-action@master with: host: ${{ secrets.HOST }} username: ${{ secrets.USERNAME }} key: ${{ secrets.KEY }} port: ${{ secrets.PORT }} script: | docker-compose pull docker-compose up -d ``` 6. 在项目根目录下创建一个名为 `docker-compose.yml` 的文件，用于定义 Docker 容器。 ```yaml version: '3' services: app: image: user/app:${{ github.sha }} ports: - 80:5000 ``` 7. 在服务器上创建一个名为 `.env` 的文件，并在其中添加以下代码： ```bash FLASK_APP=app.py FLASK_ENV=production SECRET_KEY=<your-secret-key> ``` 8. 在服务器上运行以下命令以启动容器： ```bash docker-compose pull docker-compose up -d ``` GitHub Actions 将自动构建和部署 Docker 容器到服务器上。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值