Stable Diffusion【进阶篇】：真人漫改之IP-Adapter实现

这2种方式都是完全按照原图片绘制出来，最大程度的保持原真人图片的发型、服装、姿势和背景等信息，现在大部分真人漫改，也是采用上面2种方式实现。

今天我们分享另一种实现方式：借助ControlNet的IP-Adapter控制模型，IP-Adapter控制模型是由腾讯研究院出品的一个新的ControlNet模型，关于该模型可以理解为图片提示词，类似于MD垫图的效果，但是比tagger标签器提取出图片的元素构成效果更好。它不仅参考图片的风格、光影特效等，还参考图像上的物体，特别是一些通过提示词很难描述的物体。关于IP-Adapter控制模型有很多各种不同的玩法，后面会详细介绍。今天我们重点分享一下如何实现真人漫改效果。

ControlNet中的IP Adapter控制相对较新，需要把ControlNet的模型更新到1.1.400以上的版本才可以。也可以在huggingface网站上面进行下载放到ControlNet对应的目录下面。

下载地址：https://huggingface.co/lllyasviel/sd_control_collection/tree/main

下面我们看一下具体的实现方式。

【第一步】：ControlNet的参数设置

相关参数设置如下：

• 控制类型：选择"IP-Adapter"

• 预处理器：ip-adapter_clip_sd15

• 模型：ip-adapter_sd15_plus(最大程度的还原原参考图,建议选择该模型)

• 控制权重：有些大模型与IP-Adapter 控制模型搭配使用可能生成的图片会崩坏，可以适当调整IP-Adapter 控制权重（0.5-1之间），大家需要根据所选择的不同大模型，自己多尝试。

【第二步】提示词的编写

这里提示词的编写相对来说比较简单，我们只需要在通用的图片质量提示词基础上，添加一个美女的提示词即可。

正向提示词：(best quality), ((masterpiece)), (highres), original, extremely detailed 8K wallpaper, (an extremely delicate and beautiful)

a super beautiful girl,

文生图相关参数设置

• 采样器：DPM++2M Karras

• 采样迭代步数：30

• 图片宽高：保持和上传图片的宽高一致即可。

【第三步】大模型的选择以及图片的生成

真人漫改需要生成二次元的图片，所以大模型需要选择二次元的大模型。

这里我们选择不同的二次元大模型来看一下效果。

原图

大模型：Anything V5 Prt-RE （控制权重：0.5）

大模型：Counterfeit V3.0 （控制权重：0.5）

大模型：Cetus-Mix Coda2 （控制权重：0.5）

大模型：MeinaUnreal V3 （控制权重：0.5）

相关说明：

（1）在本文中，为了尽可能的保持真人漫改的图片与原图片背景一致，IP Adapter控制模型使用的是ip-adapter_sd15_plus，并且控制权重我们设置为0.5，出图效果经过测试都比较好。

我们将控制权重设置为默认值1，很多时候生成的图片效果就不太好了，特别是衣服袖子都太卷了。

大模型：Counterfeit V3.0 （控制权重：1）

大模型：Cetus-Mix Coda2 （控制权重：1）

大模型：MeinaUnreal V3 （控制权重：1）

（2）IP Adapter控制模型出图效果可以和原图片背景保持大体一致（和线稿模型出图的效果一样），也可以实现不像线稿模型出图那么死板，它可以只参考人脸和发型，任意更改背景，灵活控制不同角度的动作。

如果只参考人脸和发型出图，IP Adapter控制模型可以只选择ip-adapter-plus-face_sd15模型。

我们看一下不同大模型下的图片生成效果。

大模型：Anything V5 Prt-RE （控制权重：0.5）

大模型：Counterfeit V3.0 （控制权重：0.5）

大模型：Cetus-Mix Coda2 （控制权重：0.5）

大模型：MeinaUnreal V3 （控制权重：0.5）

从上面生成的图片可以看出，只选择ip-adapter-plus-face_sd15模型，可以在保持人脸和发型的基础上，可以灵活地改变人物背景元素以及服装等。

好了，今天的分享就到这里了，希望今天分享的内容对大家有所帮助。

写在最后

AIGC技术的未来发展前景广阔，随着人工智能技术的不断发展，AIGC技术也将不断提高。未来，AIGC技术将在游戏和计算领域得到更广泛的应用，使游戏和计算系统具有更高效、更智能、更灵活的特性。同时，AIGC技术也将与人工智能技术紧密结合，在更多的领域得到广泛应用，对程序员来说影响至关重要。未来，AIGC技术将继续得到提高，同时也将与人工智能技术紧密结合，在更多的领域得到广泛应用。

感兴趣的小伙伴，赠送全套AIGC学习资料和安装工具，包含AI绘画、AI人工智能等前沿科技教程，模型插件，具体看下方。

一、AIGC所有方向的学习路线

AIGC所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照下面的知识点去找对应的学习资源，保证自己学得较为全面。

二、AIGC必备工具

工具都帮大家整理好了，安装就可直接上手！

三、最新AIGC学习笔记

当我学到一定基础，有自己的理解能力的时候，会去阅读一些前辈整理的书籍或者手写的笔记资料，这些笔记详细记载了他们对一些技术点的理解，这些理解是比较独到，可以学到不一样的思路。

四、AIGC视频教程合集

观看全面零基础学习视频，看视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

五、实战案例

纸上得来终觉浅，要学会跟着视频一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

若有侵权，请联系删除