这2种方式都是完全按照原图片绘制出来,最大程度的保持原真人图片的发型、服装、姿势和背景等信息,现在大部分真人漫改,也是采用上面2种方式实现。
今天我们分享另一种实现方式:借助ControlNet的IP-Adapter控制模型,IP-Adapter控制模型是由腾讯研究院出品的一个新的ControlNet模型,关于该模型可以理解为图片提示词,类似于MD垫图的效果,但是比tagger标签器提取出图片的元素构成效果更好。它不仅参考图片的风格、光影特效等,还参考图像上的物体,特别是一些通过提示词很难描述的物体。关于IP-Adapter控制模型有很多各种不同的玩法,后面会详细介绍。今天我们重点分享一下如何实现真人漫改效果。
ControlNet中的IP Adapter控制相对较新,需要把ControlNet的模型更新到1.1.400以上的版本才可以。也可以在huggingface网站上面进行下载放到ControlNet对应的目录下面。
下载地址:https://huggingface.co/lllyasviel/sd_control_collection/tree/main
下面我们看一下具体的实现方式。
【第一步】:ControlNet的参数设置
相关参数设置如下:
-
控制类型:选择"IP-Adapter"
-
预处理器:ip-adapter_clip_sd15
-
模型:ip-adapter_sd15_plus(最大程度的还原原参考图,建议选择该模型)
-
控制权重:有些大模型与IP-Adapter 控制模型搭配使用可能生成的图片会崩坏,可以适当调整IP-Adapter 控制权重(0.5-1之间),大家需要根据所选择的不同大模型,自己多尝试。
【第二步】提示词的编写
这里提示词的编写相对来说比较简单,我们只需要在通用的图片质量提示词基础上,添加一个美女的提示词即可。
正向提示词:(best quality), ((masterpiece)), (highres), original, extremely detailed 8K wallpaper, (an extremely delicate and beautiful)
a super beautiful girl,
文生图相关参数设置
-
采样器:DPM++2M Karras
-
采样迭代步数:30
-
图片宽高:保持和上传图片的宽高一致即可。
【第三步】大模型的选择以及图片的生成
真人漫改需要生成二次元的图片,所以大模型需要选择二次元的大模型。
这里我们选择不同的二次元大模型来看一下效果。
原图
大模型:Anything V5 Prt-RE (控制权重:0.5)
大模型:Counterfeit V3.0 (控制权重:0.5)
大模型:Cetus-Mix Coda2 (控制权重:0.5)
大模型:MeinaUnreal V3 (控制权重:0.5)
相关说明:
(1)在本文中,为了尽可能的保持真人漫改的图片与原图片背景一致,IP Adapter控制模型使用的是ip-adapter_sd15_plus,并且控制权重我们设置为0.5,出图效果经过测试都比较好。
我们将控制权重设置为默认值1,很多时候生成的图片效果就不太好了,特别是衣服袖子都太卷了。
大模型:Counterfeit V3.0 (控制权重:1)
大模型:Cetus-Mix Coda2 (控制权重:1)
大模型:MeinaUnreal V3 (控制权重:1)
(2)IP Adapter控制模型出图效果可以和原图片背景保持大体一致(和线稿模型出图的效果一样),也可以实现不像线稿模型出图那么死板,它可以只参考人脸和发型,任意更改背景,灵活控制不同角度的动作。
如果只参考人脸和发型出图,IP Adapter控制模型可以只选择ip-adapter-plus-face_sd15模型。
我们看一下不同大模型下的图片生成效果。
大模型:Anything V5 Prt-RE (控制权重:0.5)
大模型:Counterfeit V3.0 (控制权重:0.5)
大模型:Cetus-Mix Coda2 (控制权重:0.5)
大模型:MeinaUnreal V3 (控制权重:0.5)
从上面生成的图片可以看出,只选择ip-adapter-plus-face_sd15模型,可以在保持人脸和发型的基础上,可以灵活地改变人物背景元素以及服装等。
好了,今天的分享就到这里了,希望今天分享的内容对大家有所帮助。
写在最后
AIGC技术的未来发展前景广阔,随着人工智能技术的不断发展,AIGC技术也将不断提高。未来,AIGC技术将在游戏和计算领域得到更广泛的应用,使游戏和计算系统具有更高效、更智能、更灵活的特性。同时,AIGC技术也将与人工智能技术紧密结合,在更多的领域得到广泛应用,对程序员来说影响至关重要。未来,AIGC技术将继续得到提高,同时也将与人工智能技术紧密结合,在更多的领域得到广泛应用。
感兴趣的小伙伴,赠送全套AIGC学习资料和安装工具,包含AI绘画、AI人工智能等前沿科技教程,模型插件,具体看下方。
一、AIGC所有方向的学习路线
AIGC所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照下面的知识点去找对应的学习资源,保证自己学得较为全面。
二、AIGC必备工具
工具都帮大家整理好了,安装就可直接上手!
三、最新AIGC学习笔记
当我学到一定基础,有自己的理解能力的时候,会去阅读一些前辈整理的书籍或者手写的笔记资料,这些笔记详细记载了他们对一些技术点的理解,这些理解是比较独到,可以学到不一样的思路。
四、AIGC视频教程合集
观看全面零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。
五、实战案例
纸上得来终觉浅,要学会跟着视频一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
![](https://img-blog.csdnimg.cn/img_convert/e7c24c5de5562ed5d31bc7501c42a278.jpeg)