前言
这个插件在处理人物一致性上出奇的强大,可以用来创作儿童绘本了,快来看我介绍。
0****1
介绍
牛逼了,国内最近出了个很不错的图像生成模型 OmniGen,由北京人工智能研究院开源。
OmniGen 是一个统一的图像生成模型,可用于执行各种任务,包括但不限于文本到图像生成、主题驱动生成、身份保留生成、图像编辑和图像调节生成。OmniGen不需要额外的插件或操作,它可以根据文本提示自动识别输入图像中的特征(例如,所需的物体、人体姿势、深度映射)。
很有趣,我最喜欢的是里面人物一致性,测试下来挺不错的。
所有的AI设计工具,安装包、模型和插件,都已经整理好了,👇获取~
02
安装使用
2.1 插件安装
插件项目地址:
https://github.com/AIFSH/OmniGen-ComfyUI
管理器搜索 omnigen 就可以安装了
安装好了记得重启服务
2.2 模型安装
模型页面:https://hf-mirror.com/Shitao/OmniGen-v1/tree/main
要全部下载,存放路径:\models\AIFSH\Shitao\OmniGen-v1
不方便科学的小伙伴,文末也提供了模型和工作流的网盘下载
对了,这个插件对Transformer依赖要4.45以上,记得升级下,不能会冲突。
03
工作流介绍
核心节点就一个,OmniGenNode,这个没啥好说的,参数默认就好了。
上面就是简单的文生图,这个中规中矩,我们主要围绕人像迁移来举例子
就拿上面这个举例子,我们让这个姑娘吃早餐
加载一张图片接入左边参数images_1节点,然后提示词需要做出提示,让系统知道是哪张图片,提示词如下:
Little girl in image_1 eating breakfast at the table
可以看到,我们有指明了图片来自 image_1,原理就是这么简单,下面这个迁移的不错,不管是衣服、样貌都迁移的不错。
这是单张的,接下来我们测试多张的情况,这次加载2张照片
The man in image_1 wraps his arm around the woman’s waist and looks into the camera,woman is in image_2
图片 1 中的男子搂着女子的腰,看着镜头,女子在图片 2 中。
效果不错吧,这效果,完全可以造谣了哈哈。
还有更强的用法,我们还可以固定他们的姿势,下面这个案例是在让上面男女坐在咖啡厅,然后姿势的话参考了另外一张图,我们先通过提取骨骼图,再当作参数参入,这样就搞定了。
提取姿势提示词:Detect the skeleton of human in image_1
整合提示词:Following the pose of this image:image_3,A man in image_1 and a woman in image_2 are sitting and chatting in a cafe
我只能说有点利害,这让我看到了AI多模态的未来,不需要额外加各种控制插件,都内置好了,我只要傻瓜式的使用就行。
很看好这个模型的未来发展,目前占用内存还行,12G左右,但是跑图时间太长了,我跑一张图要60秒,人脸这块希望后续再加强一些,未来可期。
04
总结
以上就是 OmniGen 这个插件的介绍了,这个插件挺有意思,下次我试试用来创作儿童故事,这个一致性的能力真的太强了。
技术的迭代是飞快的,要关注最新的消息才不会掉队。
为了帮助大家更好地掌握 ComfyUI,我在去年花了几个月的时间,撰写并录制了一套ComfyUI的基础教程,共六篇。这套教程详细介绍了选择ComfyUI的理由、其优缺点、下载安装方法、模型与插件的安装、工作流节点和底层逻辑详解、遮罩修改重绘/Inpenting模块以及SDXL工作流手把手搭建。
由于篇幅原因,本文精选几个章节,详细版点击下方卡片免费领取
一、ComfyUI配置指南
- 报错指南
- 环境配置
- 脚本更新
- 后记
- …
二、ComfyUI基础入门
- 软件安装篇
- 插件安装篇
- …
三、 ComfyUI工作流节点/底层逻辑详解
- ComfyUI 基础概念理解
- Stable diffusion 工作原理
- 工作流底层逻辑
- 必备插件补全
- …
四、ComfyUI节点技巧进阶/多模型串联
- 节点进阶详解
- 提词技巧精通
- 多模型节点串联
- …
五、ComfyUI遮罩修改重绘/Inpenting模块详解
- 图像分辨率
- 姿势
- …
六、ComfyUI超实用SDXL工作流手把手搭建
- Refined模型
- SDXL风格化提示词
- SDXL工作流搭建
- …
由于篇幅原因,本文精选几个章节,详细版点击下方卡片免费领取