[ComfyUI]EasyControl:一键实现爆火吉卜力风格转绘!最新更灵活的CN控制器

EasyControl简介

今天文章将介绍一款最新为DIT架构添加的高效灵活的控制组件EasyControl。由于扩散模型的架构正在从基于U-Net转向扩散变换器(DiT)。但是DiT生态系统缺乏成熟的插件支持,并面临效率瓶颈、多条件协调冲突以及模型适应性不足等问题。因此由Tiamat AI, 上海交通大学, 新加坡国立大学, Liblib AI等机构联合提出了 EasyControl的新架构方法,这是一个高效且灵活的统一条件扩散变换器框架。通过引入轻量级的条件注入LoRA模块、位置感知训练范式,以及结合因果注意力机制和 KV缓存技术,从而显著提升了模型兼容性(实现插件式功能和无损风格控制)、生成灵活性(支持多种分辨率、宽高比和多条件组合),以及推理效率。img

EasyControl能够轻松的实现:

图像转绘:如将普通图像转化为吉卜力风格图像

姿势Pose控制:通过姿势控制生成更具动态感的图像

深度Depth控制:基于深度图进行图像修复。

线稿Canny控制:通过边缘检测生成线描风格的图像

img

项目主页:https://easycontrolproj.github.io/

GitHub:https://github.com/Xiaojiu-z/EasyControl

模型下载:https://huggingface.co/Xiaojiu-Z/EasyControl/tree/main/models

在线体验:https://huggingface.co/spaces/jamesliu1217/EasyControl

EasyControl DiT模型控制体验

本文将使用ComfyUI-easycontrol工作流体验。模型在文末网盘下载

ComfyUI-easycontrol:https://github.com/jax-explorer/ComfyUI-easycontrol

flux模型:在首次运行时会自动下载,大约需要50G磁盘。

LORA模型:下载模型并放置 /ComfyUI/models/loras 下。地址:https://huggingface.co/Xiaojiu-Z/EasyControl/tree/main/models

• 当前该插件全精度需要40G的显存可用,8位量化加载可24G体验。因此,推荐使用runninghub平台在线体验:https://www.runninghub.cn/ai-detail/1907697326066905090/?inviteCode=kol01-rh059

img

EasyControl DiT模型控制ComfyUI体验

EasyControl DiT模型控制ComfyUI工作流下载:

LibLIbAI下载:https://www.liblib.art/modelinfo/08cb7542d8ed4b3da8ef5ae2e4809255?versionUuid=dcc72eadbf3a46cb85483993787230cb

RunningHUB下载:https://www.runninghub.cn/post/1907687687565021186/aiDetail/?inviteCode=kol01-rh059

img

注意:

• 需要开启8位量化才能在24G显存体验。也可在线体验。

• 同时EasyControl还支持深度、线稿、姿势控制。

01.一键转绘吉卜力风格

体验地址:https://www.runninghub.cn/ai-detail/1907697326066905090/?inviteCode=kol01-rh059

Ghibli Studio style, charming hand drawn anime style illustration
imgimg
imgimg
imgimg
imgimg
imgimg

02.CN控制(深度)

体验地址:https://www.runninghub.cn/ai-detail/1909564552495988737/?inviteCode=kol01-rh059

1 women, The image features a person wearing a light pastel outfit in a casual outdoor environment. The individual has mid-length straight hair, soft brown in color, and is dressed in a school-inspired ensemble. They are wearing a crisp white blouse adorned with a neatly tied black ribbon bow at the collar, adding a formal and youthful touch to the attire. Over the blouse, they have on an oversized light blue knitted cardigan with visible buttons, suggesting warmth and comfort. The bottom is a high-waisted pleated skirt in matching light blue, delivering a cohesive look. Their pose is playful, as they hold and gently pull the strands of their hair outward with both hands. The background is blurred, showcasing the soft focus of a tree-lined pathway with dappled sunlight and shadows, evoking a serene and casual atmosphere. The setting suggests a park or urban pedestrian area on a sunny day, adding to the charm of the overall scene.

img

img

• 推荐不想本地自己折腾的同学一个可在线使用**Runninghub平台可在线体验AI应用和工作流(注册即送1000积分可用)。**主页更多精彩工作流可在线体验: https://www.runninghub.cn/user-center/1890418187312222210?utm_source=kol01-RH059 。**阿里万相-最强开源*图生视频AI应用*:**https://www.runninghub.cn/ai-detail/1894632237306937345?utm_source=kol01-RH059 。AI工作流:https://www.runninghub.cn/post/1894584540348743681/aiDetail?utm_source=kol01-RH059

图片

为了帮助大家更好地掌握 ComfyUI,我花了几个月的时间,撰写并录制了一套ComfyUI的基础教程,共六篇。这套教程详细介绍了选择ComfyUI的理由、其优缺点、下载安装方法、模型与插件的安装、工作流节点和底层逻辑详解、遮罩修改重绘/Inpenting模块以及SDXL工作流手把手搭建。

由于篇幅原因,本文精选几个章节,详细版点击下方卡片免费领取

一、ComfyUI配置指南

  • 报错指南
  • 环境配置
  • 脚本更新
  • 后记

img

二、ComfyUI基础入门

  • 软件安装篇
  • 插件安装篇

img

三、 ComfyUI工作流节点/底层逻辑详解

  • ComfyUI 基础概念理解
  • Stable diffusion 工作原理
  • 工作流底层逻辑
  • 必备插件补全

img

四、ComfyUI节点技巧进阶/多模型串联

  • 节点进阶详解
  • 提词技巧精通
  • 多模型节点串联

img

五、ComfyUI遮罩修改重绘/Inpenting模块详解

  • 图像分辨率
  • 姿势

img

六、ComfyUI超实用SDXL工作流手把手搭建

  • Refined模型
  • SDXL风格化提示词
  • SDXL工作流搭建

img

由于篇幅原因,本文精选几个章节,详细版点击下方卡片免费领取

img

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值