Linux环境下部署腾讯混元AI大模型

已于 2024-09-13 13:51:58 修改
阅读量987 收藏 7
点赞数 13
分类专栏： AI大模型 文章标签： linux 服务器 AIGC
于 2024-07-17 22:18:58 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/taogumo/article/details/140507036
版权

算力环境配置参考：

Linux环境下部署百度百川AI大模型-CSDN博客

步骤一：下载HunyuanDiT模型

cd /workspace/
git  clone https://github.moeyy.xyz/https://github.com/Tencent/HunyuanDiT

步骤二：下载依赖

cd HunyuanDiT
pip install -r requirements.txt
pip install flash_attn

步骤三：下载模型库

git lfs install
git clone https://www.modelscope.cn/modelscope/HunyuanDiT.git
mv HunyuanDiT ckpts

注：模型下载时间较长

步骤四：启动大模型

python sample_t2i.py --prompt "渔舟唱晚" --no-enhance

查看/workspace/HunyuanDiT/results/文件夹下的生成内容

参考

GitHub 文件加速 - Moeyy/

GitHub - Tencent/HunyuanDiT: Hunyuan-DiT : A Powerful Multi-Resolution Diffusion Transformer with Fine-Grained Chinese Understanding

魔搭社区

腾讯混元大模型 产品概述-产品简介-文档中心-腾讯云

https://zhuanlan.zhihu.com/p/691115184

腾讯开源HunyuanVideo-I2V图生视频模型+LoRA训练脚本，部署、推理实战教程
zhangjiaofa的专栏
03-08 209
该模型基于HunyuanVideo文生视频基础模型，利用基础模型先进的视频生成能力，将应用扩展到图像到视频的生成任务。由于使用预训练的Decoder-Only架构多模态大语言模型（MLLM）作为文本编码器，可用于显著增强模型对输入图像语义内容的理解能力，并实现图像与文本描述信息的深度融合。该集成不仅提升了生成视频的保真度，还增强了模型对复杂多模态输入的解析能力。模型下载好后分别把模型挪到ComfyUI的对应目录，文件结构如下：​​​​​​​。魔搭平台上可以下载到这三个模型，下载命令如下：​​​​​​​。
[AI建模] 使用Pinokio本地化部署混元2D到3D AI建模服务
技术就是小甜甜博客
03-21 267
使用Pinokio本地化部署混元2D到3D AI建模服务的整个流程如下：✅ 在Pinokio Discover页面找到混元2D到3D项目✅ 点击安装，一键自动化安装所有依赖✅ 启动服务，访问Web UI或API进行2D转3D转换✅ 选择适合自己设备的GPU/CPU/远程服务器启动模式✅ 支持带Texture和不带Texture两种3D模型输出格式借助Pinokio的强大管理功能，本地化部署AI建模服务变得前所未有的简单。如果你对AI建模感兴趣，不妨亲自试试看！🚀。
让AI为你打工，腾讯混元大模型实战篇
xiangxueerfei的博客
05-11 1907
👉导读腾讯混元大模型 API 产品，可以实现对话沟通、内容生成、分析理解，可以广泛应用在智能客服、智能营销、角色扮演、广告文案创作、商品描述、剧本创作、简历生成、文章写作、代码生成、数据分析、内容分析等各类场景。本文目标将结合腾讯混元大模型实现，表设计，数据库连接，代码增删查改的实现等功能。👉目录1 操作教程2 错误排查3 代码测试4 整体总结。
【记录】腾讯混元大模型本地部署过程
丑小鸭
01-16 2212
本文记录在本地部署腾讯混元大模型的过程。仅为部署记录，不涉及过多的技术要点。该模型应该是当前开源的效果不错的模型，其实官方文档将部署过程写的相当详细了，但是这里为了便于后期的学习，特意将部署过程记录下，因为部署过程中还是有写一些问题在的。
腾讯混元文生图模型HunyuanDiT部署体验
Qinghub‘博客
05-15 4836
最近，腾讯混元文生图模型HunyuanDiT 架构升级，并免费开源了。他采用的神经网络架构和Sara一样都是Diffusion Transformer，参数量已经达到15亿。官方测评效果显示超过目前开源的Stable Diffusion。试用下来效果比较令人惊喜。
腾讯混元DiT（Hunyuan-DiT） 在线体验及部署经验
旭的博客
05-30 3195
本文主要介绍使用virtualenv库生成venv，进而部署/运行Hunyuan-DiT大模型的方法，同时分享一些经验。
AI实战篇：Spring AI + 混元 手把手带你实现企业级稳定可部署的AI业务智能体
weixin_28916013的博客
10-19 495
前言 在之前的内容中，我们详细讲解了Spring AI的基础用法及其底层原理。如果还有小伙伴对此感到困惑，欢迎参考下面这篇文章，深入学习并进一步掌握相关知识：https://www.cnblogs.com/guoxiaoyu/p/18441709 今天，我们将重点关注AI在实际应用中的落地表现，特别是Spring AI如何能够帮助企业实现功能优化以及推动AI与业务的深度融合。我们将以当前大厂广泛...
HunyuanDiT大模型部署
m0_60657960的博客
05-15 782
大模型
最强腾讯文生图大模型，腾讯混元DiT模型本地部署（一）
缘分天空的专栏
12-17 1189
腾讯混元DiT模型是基于Diffusion Transformer（DiT）架构的视频生成模型，该模型在视频生成方面取得了显著的技术突破。它支持中英文双语输入，并具备“超写实”的视频生成能力，能够生成高度符合提示词的视频画面，画面质量高且流畅不易变形。按照官方开源的说明本地部署试试。
记录一下安装腾讯混元文生图/图生文模型的艰辛历程
羊城迷鹿的博客
09-03 1489
这篇文章里面提到的一模一样，他是安了没用C++ ABI编译的包错了，改成编译的就好了。但我现在安的就是他推荐的，然后我试着去反向解决，安他会报错的那个包，也就是。可以看到报错的包位于.local里面，而我前面的安装截图里面，也可以看出是在.local里面安的，所以我相当于是把他的版本覆盖掉了。最后kk终于发现了上面被红框框起来的那句话，原来是因为我的虚拟环境是用su模式装的，所以常规模式下无法安装进去，强行给我装到了外面。其实上面的问题是安装1.1版本的模型导致的，可以用下面的命令安装1.2模型。
Open-WebUI 接入腾讯混元大模型
gukugkg的博客
12-10 2105
我尝试使用openai协议的api key接入openwebui失败后，由生此文。
腾讯混元部署笔记 HunyuanVideo
jacke121的专栏
12-04 480
腾讯混元部署笔记
玩转腾讯云HAI：部署DeepSeek，搭配Cherry Studio搭建超酷个人知识库
Front_Yue的博客
02-10 1245
通过本文的指导，您已经成功下载并配置了Cherry Studio，连接到腾讯云HAI上部署的DeepSeek模型，并搭建了一个功能强大的个人知识库。Cherry Studio不仅支持多种大语言模型，还提供了便捷的知识库管理和智能问答功能，极大提升了信息检索和知识管理的效率。
腾讯混元hunyuan3d生成模型,本地搭建和使用
feiyu361的博客
02-14 3601
总共显存消耗23.5G ，耗时 197s 左右。在 D:\Hunyuan3D-1\outputs\test 目录下面会有如下的目录。进入 D:\Hunyuan3D-1 目录下面，修改 requirements.txt 文件如下，安装下面的库。### 点击 mesh.obj 进行查看，是不是很牛X，可以自动生成一幢楼的 3d 模型。腾讯终于出了一个比较厉害的AI,可以根据文本或者图片生成3d模型,下面是它的基本逻辑。在 D:\Hunyuan3D-1 目录下面使用下面的命令进行生成。### 图生3D模型测试。
腾讯混元大模型使用教程
最新发布
gitblog_00002的博客
03-31 793
腾讯混元大模型使用教程 Tencent-Hunyuan-Large 项目地址: https://gitcode.com/gh_mirrors/te/Tencent-Hunyuan-Large ...
一步步教你腾讯混元(HunYuanVideo)FP8量化版本地安装部署
qunfang960871的专栏
01-10 4605
HunyuanVideo 是腾讯重磅开源的视频生成大模型，具有与领先的闭源模型相媲美甚至更优的视频生成表现，但由于推理时对显卡的门槛比较高，拥有低显卡的用户望而却步，最近大神Kijai发布了FP8量化版本模型，使得模型可以在显卡较低的情况下可以成功运行。 注意：这里安装的torch 版本为2.5.1，官网推荐的2.4.0版本在运行时会得到黑的图片和视频（当时在这卡了很久）。
hunyuan-DiT模型部署指南
SJJS_1的博客
11-04 2490
Hunyuan-DiT是由腾讯混元推出的扩散模型，支持中文和英文双语输入，其他开源模型相比，Hunyuan-DiT 在中文到图像生成方面树立了新的水平。
Windows（Win10、Win11）本地部署开源大模型保姆级教程
热门推荐
AIGIS的博客
04-19 3万+
最近开源大模型可谓闹的沸沸扬扬，尤其是Microsoft开源的和Meta开源的llama3 70b，评测都已经接近了的水平。鉴于还有很多同学不会在上部署和使用本地模型，因此我们出一期保姆级教程。本文讲述了如何在上本地部署大模型。从最基础的软件安装到环境配置都进行了截图展示，希望对非计算机的同学也有所帮助。AI时代我们每个人都必须要掌握一些AI知识，相信不断学习的你一定不会被AI淘汰。这只是开始，后面我们还有很多工作要做，尤其是提示词和智能体。
腾讯开源混元大模型-Hunyuan-DiT
hjx_dou的专栏
05-14 610
感觉要是想玩这些工具的话，国内的可玩性还是很高的，毕竟中国人最懂中国人，自己国家的语料喂得最对胃口。现在有些工具用起来都费劲，技术更新换代太快了，每个大厂都在自研模型。老实说，最近的大模型层出不穷，我是越来越看不懂了。有感兴趣的朋友可以了解下。
腾讯混元大模型语言大模型开源部署
01-17
### 腾讯混元大模型开源部署教程 #### 部署环境准备 为了成功部署腾讯混元大模型，在Linux环境下需完成一系列准备工作。确保服务器已安装必要的软件包和支持库，这通常包括Python及其开发头文件、pip等工具。 #### 获取模型代码仓库 通过Git命令获取最新的HunyuanDiT项目源码： ```bash cd /workspace/ git clone https://github.moeyy.xyz/https://github.com/Tencent/HunyuanDiT ``` #### 安装依赖项 进入克隆下来的目录并执行如下指令来安装所需的Python库： ```bash cd HunyuanDiT pip install -r requirements.txt pip install flash_attn ``` #### 下载预训练权重 使用ModelScope作为托管服务下载官方发布的预训练参数集，并将其移动到指定位置以便后续加载： ```bash git lfs install git clone https://www.modelscope.cn/modelscope/HunyuanDiT.git mv HunyuanDiT ckpts ``` #### 运行测试实例验证安装成果 确认所有组件正常工作的一个好方法就是尝试运行一些简单的推理脚本或样例程序。具体操作可以参照随附文档中的指导说明[^1]。 #### 多平台兼容性考量 值得注意的是，除了Linux之外，该框架还能够在Windows以及macOS平台上顺利运作，这意味着开发者拥有更大的灵活性去挑选最适合的工作站配置方案[^2]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

源图客

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值