四少女火爆外网,AI杀疯了!

ControlNet是一款新开源的算法,可以将普通照片转换成动漫风格或其他效果。该算法通过在预训练的扩散模型StableDiffusion中添加控制输入,实现了对图像细节生成的控制。用户可以通过简单的插件使用这一技术,例如将照片转化为逼真的绘画或改变装修设计风格。此外,文章提到,即使在少量数据上训练,模型也能实现良好的条件控制生成效果。
摘要由CSDN通过智能技术生成

转自:量子位 | 金磊

四位美少女,带着AI画画在ChatGPT的热浪中杀出了一片天地。

新“魔法”一出,瞬间吸引全场目光:

403721ebe99f102f33319b1d52ccbb3c.png

原本是一张四个闺蜜在沙滩边上的普通合影照:

2af1d971c53e5ba22013dab8b6896df3.png

在新魔法的加持下,“啪的一下”画风两极反转,瞬间进入唯美动漫风:

2c3ae6951c63238a1189085b2d8a555c.jpeg

还有效果截然不同的,例如这样:

2a4d89368985702b9caef4baf94cecab.jpeg

这个效果就是使用 Stable Diffusion 和 ControlNet 实现的。

ControlNet 是刚开源的算法,有人将其集成到了 SD 里,以插件的形式使用。

插件的具体使用方法,可以参考这篇文章,写得很详细了:

AI又进化了,突破性革命来了!

已经有不少小伙伴表示非常 nice。

0e10cbf94f2c80c6afdd6998e54444f3.png

当然,ControlNet的“神通”可不仅于此。

例如微博博主“海辛Hyacinth”便分享了他用ControlNet插件后“草图变美女”的玩法。

他先是找了一张线稿:

06ecb5ad6bb2db6b553c07bc5e974cde.png

然后是开启了ControlNet的scribble模细化效果,便得到了这样的结果:

90b524f6e3487044a917e4131eee73c5.png

效果之逼真,也是令人叹服了。

“海辛Hyacinth”还测试了在同一seed下不同参数的效果:

7a36f1e9ec4802b02c5b4f54b573318d.png

有小伙伴就要问了,那如果关闭了ControlNet,效果会如何?别急,博主也做了测试,效果是这样的:

46e451c81ceb53076257af99970eb8d5.png

“海辛Hyacinth”的这波操作也是得到了ControlNet作者的认可:

03adc5068087fdf429e88d8a21962d53.png

当然,ControlNet还可以实现其它诸多的功能,例如在装修设计上,可以输入一张拍好的卧室图,分分钟输出草图和换了风格的效果图:

3203ce7df6cc6f9ae8bb5988f90c4337.gif

以及在ControlNet的在线网站中,也提供了许多不同功能玩法体验,感兴趣的小伙伴可以去尝试哦:

bb2c6eddb1cee01d46ff6ab1763c92a5.png

最后,再简述下 ControlNet 的原理。

ControlNet 本质上是给预训练扩散模型增加一个额外的输入,控制它生成的细节。

这里可以是各种类型的输入,作者给出来的有8种,包括草图、边缘图像、语义分割图像、人体关键点特征、霍夫变换检测直线、深度图、人体骨骼等。

那么,让大模型学会“按输入条件生成图片”的原理是什么呢?

ControlNet整体思路和架构分工如下:

6124676e02d52434a601db240f1dcfc6.png

具体来说,ControlNet先复制一遍扩散模型的权重,得到一个“可训练副本”(trainable copy)。

相比之下,原扩散模型经过几十亿张图片的预训练,因此参数是被“锁定”的。而这个“可训练副本”只需要在特定任务的小数据集上训练,就能学会条件控制。

据作者表示,即使数据量很少(不超过5万张图片),模型经过训练后条件控制生成的效果也很好。

“锁定模型”和“可训练副本”通过一个1×1的卷积层连接,名叫“0卷积层”。

0卷积层的权重和偏置初始化为0,这样在训练时速度会非常快,接近微调扩散模型的速度,甚至在个人设备上训练也可以。

例如一块英伟达RTX 3090TI,用20万张图像数据训练的话只需要不到一个星期:

b81f271f16ba482831332cf9736871b1.png

作者基于当前大火的Stable Diffusion进行了具体实现,主要架构如下:

d2db67b8e329569a81f7821503497fca.png

针对不同的输入,作者也给出了对应不同的模型,生成效果也都不错。

具体效果,就如我们刚才所展示的那样了。

One More Thing

最后来一个温馨提示……男同胞们不要觉得2月14日这个情人节过完就安全了图片。

接下来还可能有白色情人节(3月14日)、黑色情人节(4月14日)、玫瑰情人节(5月14日)、亲亲情人节(6月14日)……

赶紧把这套“AI组合拳”学起来,送自己的老婆/女朋友一张唯美的礼物吧!

afdc4370c7348e2e1f0335ca9e8b3375.gif

·················END·················

推荐阅读

•   全新的Bing浏览器 ,教你如何快速申请?•   离谱!入职比亚迪一个月,我真是开眼了•   中国版 ChatGPT :MOSS ,被网友挤崩了 !

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值