VisualGLM-6B部署

已于 2023-11-24 15:16:42 修改
阅读量722 收藏 8
点赞数 8
文章标签： python pip conda 深度学习 机器学习 人工智能 pytorch
于 2023-11-24 14:36:11 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ke_weiquan/article/details/134592552
版权

部署VisualGLM-6B，主要是以下步骤进行操作：

应用环境

显卡号为 NVIDIA RTX A6000
操作系统型号为 centos 7.X
CUDA 型号cuda11.1
cuDNN 版本为 cudnn v8.0.4
Python 版本为 3.9.12

在这里插入图片描述

步骤

1.创建新的虚拟环境：使用命令

conda create -n visualglm python==3.10.6

来创建一个名为visualglm的虚拟环境，并指定Python版本为3.10.6。

2.激活虚拟环境：使用命令

conda activate visualglm

来激活刚刚创建的虚拟环境。

查看查看已有的虚拟环境列表，以下三个命令均可。

conda info --envs
最低0.47元/天 解锁文章
柯柯为为
关注
Visualglm-6b
liguandong
06-06 1615
【官方教程】XrayGLM微调实践，（加强后的GPT-3.5）能力媲美4.0，无次数限制。
VisualGLM-6B微调（V100）
liguandong
05-04 1044
CentOS 7虽然已经出了很多年了，但依然会有很多人选择安装CentOS 6，CentOS 6有些依赖包和软件都比较老旧，如今天的主角gcc编译器，CentOS 6的gcc版本为4.4，CentOS 7为4.8。gcc 4.8最主要的一个特性就是全面支持C++11，如果不清楚什么用的也没关系，简单说一些C++11标准的程序都需要gcc 4.8以上版本的gcc编译器编译，如MySQL 8.0版本(8.0.16以上版本是C++14标准，需gcc 5.3以上版本)。Visualglm-6b-CSDN博客。
本地部署 VisualGLM-6B
engchina的专栏
05-20 4505
本地部署 VisualGLM-6B
VisualGLM-6B——原理与部署
最新发布
m0_74343467的博客
09-26 1344
VisualGLM-6B 是一种多模态预训练模型，它旨在将视觉和语言模型进行结合，使得语言模型能够理解图像信息并与文本对话无缝结合。为了更好地理解 VisualGLM-6B 的内容，我们可以从以下几个方面来解析它的原理、结构、训练和微调等内容。
VisualGLM-6B：支持图像、中英文的多模态对话模型解读与本地化部署
梦坠凡尘
07-03 3820
之后的微调阶段，模型在长视觉问答数据上训练，以生成符合人类偏好的答案。VisualGLM-6B 是一个开源的，支持图像、中文和英文的多模态对话语言模型，语言模型基于 ChatGLM-6B，具有 62 亿参数；以CogView为例，输入token既包含了文本token，也包含了Image token，所以Transformer既建模了文本也建模了图像，并且建模了文本到图像这种跨模态的过程。在生成图像长描述的时候，距离图像较远时，语言模型的将占主导，有一定可能根据上下文生成并不存在于图像的内容。
VisualGLM-6B的部署步骤_A2
m0_60657960的博客
04-19 1037
操作系统：Ubuntu_64（ubuntu22.04.3）我的cuda==11.8 python==3.8。自己新建一个conda环境。报错（一直循环下载）
VisualGLM-6B服务器部署经验
carry_T的博客
01-24 1416
项目地址：https://github.com/THUDM/VisualGLM-6BVisualGLM-6B 是一个开源的，支持图像、中文和英文的多模态对话语言模型，语言模型基于ChatGLM-6B，具有 62 亿参数；图像部分通过训练构建起视觉模型与语言模型的桥梁，整体模型共78亿参数。
多模态对话语言模型-VisualGLM-6B
GeekPlusA的博客
05-22 1302
VisualGLM-6B多模态对话语言模型
ChatGLM-6B介绍
人工智能曾小健
06-10 2832
ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于架构，具有62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答，更多信息请参考我们的博客。
Windows 11 上从零开始基于 wsl-ubuntu 搭建 AI 学习环境及部署多种私有 ChatGPT
engchina的专栏
06-02 2119
Windows 11 上从零开始基于 wsl-ubuntu 搭建 AI 学习环境及部署多种私有 ChatGPT
本地部署生成式AI大模型VisualGLM-6B
wasd233666的博客
07-28 1156
VisualGLM-6B 是一个开源的，支持图像、中文和英文的多模态对话语言模型，语言模型基于 ChatGLM-6B，具有 62 亿参数；图像部分通过训练 BLIP2-Qformer 构建起视觉模型与语言模型的桥梁，整体模型共78亿参数。
探秘VisualGLM-6B：强大的可视化线性模型工具
gitblog_00018的博客
03-21 428
探秘VisualGLM-6B：强大的可视化线性模型工具 VisualGLM-6BChinese and English multimodal conversational language model | 多模态中英双语对话语言模型项目地址:https://gitcode.com/gh_mirrors/vi/VisualGLM-6B 项目简介 是一个由清华大学脑与智能实验室开发的开源项目，旨在提...
VisualGLM-6B：一个基于ChatGLM-6B模型的图像理解模型
u013343616的博客
08-18 456
VisualGLM-6B 是一个开源的，支持图像、中文和英文的多模态对话语言模型，语言模型基于 ChatGLM-6B，具有 62 亿参数；图像部分通过训练 BLIP2-Qformer 构建起视觉模型与语言模型的桥梁，整体模型共78亿参数。VisualGLM-6B 依靠来自于 CogView 数据集的30M高质量中文图文对，与300M经过筛选的英文图文对进行预训练，中英文权重相同。该训练方式较好地将视觉信息对齐到ChatGLM的语义空间；之后的微调阶段，模型在长视觉问答数据上训练，以生成符合人类偏好的答案。
山东大学创新实训第七周周报-----VisualGLM-6B微调环境配置
m0_67632582的博客
04-18 1725
需要更新GPU 驱动程序，以便与 PyTorch 的版本匹配，或更新PyTorch 的版本，以便与 GPU 驱动程序匹配。找到下载的14个G的那个visualglm-6b.zip，然后unzip，然后解压的文件里面有个model_config.json文件，里面。可能依赖的transformers模块版本不匹配，导致了tokenizer对象的属性不一致。在当前的 PyTorch 版本中，由于我们所使用的CUDA版本为11.6，所以我们选择安装对应版本的Pytorch。的第 118 行尝试调用了一个名为。
VisualGLM-6B的环境条件和二次接口开发
weixin_43184171的博客
11-20 692
项目下载模型下载。
《VisualGLM-6B的原理与微调》资料学习分享
Together_CZ的博客
06-21 2091
《VisualGLM-6B的原理与微调》资料学习分享
visualglm6b_pytorch图像理解算法模型
qq_27815483的博客
07-11 1103
VisualGLM 模型架构是 ViT + QFormer + ChatGLM，在预训练阶段对 QFormer 和 ViT LoRA 进行训练，在微调阶段对 QFormer 和 ChatGLM LoRA 进行训练，训练目标是自回归损失（根据图像生成正确的文本）和对比损失（输入 ChatGLM 的视觉特征与对应文本的语义特征对齐）
（3）山东大学项目创新实训第九周——VisualGLM 6B的部署推理测试
m0_68013442的博客
05-30 1668
VisualGLM-6B 是一个开源的，支持图像、中文和英文的多模态对话语言模型，语言模型基于 ChatGLM-6B，具有 62 亿参数；图像部分通过训练 BLIP2-Qformer 构建起视觉模型与语言模型的桥梁，整体模型共78亿参数。VisualGLM-6B 依靠来自于 CogView 数据集的30M高质量中文图文对，与300M经过筛选的英文图文对进行预训练，中英文权重相同。该训练方式较好地将视觉信息对齐到ChatGLM的语义空间；
VisualGLM-6B大模型核心技术
11-15
VisualGLM-6B是一个支持图像、中文和英文的多模态对话语言模型，它基于ChatGLM-6B，具有62亿参数。VisualGLM-6B的核心技术是将视觉模型与语言模型相结合，通过训练BLIP2-Qformer构建起视觉模型与语言模型的桥梁，整体模型共78亿参数。VisualGLM-6B可以进行图像的描述及相关知识的问答，也能结合常识或提出有趣的观点。同时，VisualGLM-6B还支持中文和英文的多模态对话，可以进行自然语言生成和理解任务。总之，VisualGLM-6B的核心技术是将视觉模型和语言模型相结合，实现了多模态对话的功能。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值