Windows·Linux 部署 MiniGPT-4

已于 2023-07-16 16:34:50 修改
阅读量155 收藏
点赞数
文章标签： linux gpt windows 人工智能 深度学习 python
于 2023-07-13 09:07:11 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_37975556/article/details/131694547
版权

尝试过，使用 Windows MiniConda 来部署 MiniGPT-4，均被限制在了显卡驱动环境上，查阅资料后发现 Bitsandbytes 对 Windows 系统并不太支持，最终放弃了 Windows MiniConda 部署的想法，转而使用 Windwos Wsl 子系统 Linux 代替 Windows 部署。同时，此文章内容可视为 Linux 部署 MiniGPT-4！

首先文章使用的是 7B 的模型，再者由于本机的显存有限，可能导致了 AI 的智商有限，多少有点弱鸡！！！

文章转载自【最新请看】

Windows · Linux 部署 MiniGPT-4 | 陈小鱼 - 技术博客https://cxiaoyu.cn/?p=1539

-陈小鱼
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
【MiniGPT-4】手把手教部署
Python，数据分析，机器学习，深度学习
04-27 3930
最近MiniGPT4开源了，获得了很多网友好评，在Github上获得了1.6万的star，它相比ChatGPT3.5来说，可以实现图片识别，生成想要的文本效果，理解能力非常强。论文地址：https://github.com/Vision-CAIR/MiniGPT-4/blob/main/MiniGPT_4.pdf论文主页：https://minigpt-4.github.io/代码地址：https://github.com/Vision-CAIR/MiniGPT-4。
ruoyi-cloud微服务Linux中docker-compose部署
05-10
ruoyi-cloud微服务Linux中docker-compose部署 博客链接:https://blog.csdn.net/zht3306/article/details/124687425?spm=1001.2014.3001.5501
linux部署JDK-Tomcat.docx
11-02
在linux上面部署jdk和tomcat，恰同学少年，风华正茂，挥斥方遒
gcc-linaro-arm-linux-gnueabihf-4.9-2014.09_windows.zip
04-01
gcc-linaro-arm-linux-gnueabihf-4.9-2014.09_windows windows用
javaweb部署到linux-tomca.doc
11-29
javaweb部署到linux-tomca.doc
Linux服务器上部署Jmeter-教程~
11-08
Linux服务器上部署Jmeter——教程，非常好用哒，看了一定能会。 如果还有性能测试相关的其他问题，也欢迎随时来私聊我交流呀~ CSDN，知识分享，资源共享，希望和同在CSDN的你共同进步
MiniGPT4系列之一部署篇：在RTX-3090 Ubuntu服务器部署步骤详解
qq_18256855的博客
07-12 1755
本文主要介绍minigpt4在ubuntu服务器 RTX-3090部署的全过程
深度学习笔记--本地部署Mini-GPT4
牵一只蜗牛去散步
05-03 6585
升级 bitsandbytes 库，这里博主选用 0.38.1 版本的 bitsandbytes 解决了问题；--delta-path 表示第 3 步中下载的 vicuna-7b-delta-v1.1 权重的存放地址；--bash-model-path 表示第 3 步中下载的 llama-7b-hf 权重的存放地址；--target-model-path 表示生成 Vicuna 权重的存放地址；4--生成 Vicuna 权重。6--可能出现的问题。
minigpt4 部署踩坑记录
changdejie的专栏
06-09 933
看了一下是因为用到了 bert-base-uncased 这个模型，而且机器上没有缓存，所以会去 huggingface上下载，但是由于网络原因，而且文件也比较大 2G。5，把bert-base-uncased下载到本地 修改 MiniGPT-4-main/minigpt4/models/blip2.py，其中有两处引用，改成本地路径就可以了。3，麻烦点主要在于，需要下载一些大模型，根据gitbub上的教程还要进行转化才能转化成最终使用的权重。我在哔哩上看到有个大哥已经包装好的，就直接下载下来了。
minigpt4搭建过程记录，简单体验图文识别乐趣
submarineas的博客
04-25 8593
从3月开始，aigc进入了疯狂的开端，正如4月12日无界 AI直播 在《探索 AIGC 与人类合作的无限可能》中关于梳理的时间线一样，aigc的各种产品如雨后春笋般进入了不可逆的态势，里面有句话很形象，人间一日，AIGC十年。这产变革像是有计划性的沧海桑田，让每个参与者亦或者体验者都感觉时过境迁，本文是针对前几天刚发布的minigpt4，简单写了个部署教程，最近GitHub trending中有太多的奇思妙想，在基于chat的这么一个模型下，每个人都能让故事开始变得天马行空，充满无限的可能。
MiniGPT-4中文翻译
zhangenter的专栏
04-24 2055
MiniGPT-4-ZH MiniGPT-4 MiniGPT-4介绍
保姆级minigpt4部署教程
kikiLQQ的博客
01-21 1230
在本文中，我将详细描述服务器无法访问外网（huggingface）的情况下，如何按照步骤描述minigpt4（Vicuna版本）部署的总体流程，包含在连接外网失败时如何解决。
MiniGPT-4部署过程
dzysunshine的博客
05-04 2855
修改最后一行代码，把服务器IP加进去就好 ，如下：demo.launch(server_name=“xx.xxx.xxx.xxx”, share=True, enable_queue=True)在 minigpt4/configs/models/minigpt4.yaml中，第16行修改刚刚下载权重的路径，我这里放到。参考：https://github.com/Vision-CAIR/MiniGPT-4/issues/117。我这里是单GPU，所以 --gpu-id设置为0。
MiniGPT-4，开源了！
CodeSheep
04-26 4403
中已经收录，里面有我整理的6大编程方向(岗位)的自学路线+知识点大梳理、面试考点、我的简历、几本硬核pdf笔记，以及程序员生活和感悟，欢迎star。传统预训练阶段，在4张A100上使用500万图文对，10个小时内就可以完成，此时训练出来的Vicuna已能够理解图像，但生成能力有限。通过这个项目我们也再一次看出大模型在视觉领域的可行性，未来在图像、音频、视频等方面的应用前景应该也是非常不错的，我们可以期待一下。可以说，GPT-4发布会上演示过的功能，MiniGPT-4基本也都有。
十分钟教你部署一个属于自己的chatgpt网站-（源码）
m0_62593324的博客
04-04 5803
向账号API地址发送POST请求，请求体为JSON格式，包含一个名为message的字段，值为用户输入信息。创建Flask应用程序：Flask是一款Python Web框架，我们可以使用该框架创建一个Web应用程序。获取GPT-3 API密钥：为了使用GPT-3 API接口，我们需要先获取API密钥。安装依赖项：为了让应用程序正常运行，我们需要安装一些Python依赖项。部署应用程序：如果需要将应用程序部署到公网上，可以使用Docker或其他云服务商的容器服务平台来完成。
本地电脑轻松部署GPT4（无需账号）！
热门推荐
Python，数据分析，机器学习，深度学习
04-05 2万+
最近有个超级好玩的Github开源代码分享给大家，可以实现直接在本地电脑上运行GPT4，实现给机器人对话，获得想要的内容，亲测好用！废话不多说，直接上干货！
gpt分区硬盘安装linux,GPT分区表上硬盘安装ubuntu
weixin_35574537的博客
05-02 1154
ubuntu我一直都是使用硬盘安装，没有试过烧录到u盘引导安装，因为不想浪费一个优盘。前戏我要将iso和grub.cfg放置到某个盘的根目录下1.复制ubuntu-20.04-desktop-amd64.iso到该分区根目录下2.打开iso中的/boot/grub/grub.cfg，另存为该分区根目录下修改grub.cfg配置使用Notepad++或者类似的第三方记事本应用程序修改U盘根目录下gr...
13 Linux实操篇-网络配置
qq_74289024的博客
04-23 1040
子网ip 与网关。
Linux多进程(五) 进程池 C++实现
最新发布
Lyajpunov的博客
04-26 785
进程池是一种并发编程模式，用于管理和重用多个处理任务的进程。它通常用于需要频繁创建和销毁进程的情况，以避免因此产生的开销。减少进程创建销毁的开销：避免频繁创建和销毁进程所带来的系统资源开销。提高系统响应速度：由于进程已经初始化并且一直保持在内存中，可以立即分配执行任务，减少了任务等待时间。控制资源使用：通过限制进程池中的进程数量，可以控制系统资源的使用情况，避免资源过度消耗。
minigpt4环境搭建
04-25
为了搭建 MiniGPT4 的环境，你需要完成以下步骤： 1. 安装 Anaconda 或 Miniconda，并创建一个新的环境。 2. 在新创建的环境中安装 PyTorch 和相关依赖。 3. 下载 MiniGPT4 的代码并安装其它所需的依赖。 4. 运行 MiniGPT4 的示例程序，确保一切都正常。 具体的步骤可以参考 MiniGPT4 的文档进行操作。如果你遇到任何问题，可以提出具体的问题，我们尽可能地帮助你解决。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

-陈小鱼

非常感谢你的支持！

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值