c++由矩阵生成图像_傻瓜式无限P图,MIT朱俊彦团队“重写”深度生成模型

MIT朱俊彦团队的论文《Rewriting a Deep Generative Model》提出直接编辑深度网络的内部生成模型,实现对图像的傻瓜式编辑。用户界面允许选择规则和目标,通过复制-粘贴操作实现图像编辑,如将塔尖变树,人脸微笑等。论文已被ECCV 2020接收,代码开源。
摘要由CSDN通过智能技术生成
05dd09d9befa2366441017fa79a36bc9.png

作者 | 陈大鑫

编辑 | 丛末

复制一位老人的胡子,把胡子粘贴到全部孩子的眉毛上。该如何实现这样的操作呢?

让我们从塔尖生树的问题说起。

如何在教堂的塔尖上生成一棵树?——当然是使用P图软件啦!

4c78f70f4ccc5dccee1f336350e2a816.gif

但是P图软件一次只能修改一张图片,难道就没有那种能一键无限张P图的软件吗?

近日,来自MIT朱俊彦团队的一篇论文《Rewriting a Deep Generative Model》就很巧妙地解决了这个问题,目前该论文已被接收为ECCV 2020 Oral,且代码已开源。

在这篇《重写深度生成模型》论文中,作者不是单独地对一张张图片进行编辑,而是很大胆地提出直接对深度网络的内部生成模型动刀编辑:

940c65327fc23f29e3229e3a0a293ece.png

在这个规则编辑器中,深度生成模型G(z,w_0) 作为输入,这时模型的初始权重是 w_0,预训练模型G映射一个随机输入向量z到一个真实图像,将权重w_0改成w_1即可产生新的模型作为输出。

利用现有的模型能产生无限数量的图像,那么改变生成模型的规则就能让我们创造新规则下的无限张可改变图像。如下图所示,通过把塔尖的生成模型重写为“树”,一次操作即可在所有教堂的塔尖上都生成一棵树:

ac8232f025470167bd82b2dc6f7c4b39.png

1 傻瓜式操作

那这么神奇的重写模型操作起来容易吗,够傻瓜式吗?

为了让读者更好地亲自编辑模型,作者特意创建了一个用户交互界面,共包含三部分。如下图黄色字体所示,左上角是规则选择器,左下角是目标选择器,右边是图像浏览器。

751c15bc70bb9396c10b340d3626f91a.png

图像浏览器显示了从StyleGAN v2模型合成的教堂图像的样例:

2fe62695f0a04688e0b2312d9e8d33aa.gif

想要改变模型,就要从规则选择器开始,每次选择一个教堂的塔尖,然后点击

26b3762af253cb07b8a93814eef142ac.png

把刚才选择的图像加入context区域:

77ca9d94235f27d57427aab07e75a68d.gif

点击

9193d3a96582665f8f5f2f9d18e476d5.png

可以显示刚才选择过的图片,再点击一次则可取消显示:

3e4c3148af01821e94e4c060aa1342ac.gif

下一步是指定模型重写规则,作者给用户提供了“复制-粘贴”操作来实现这一点。

首先是复制(Copy):在图像浏览器右下角选择一棵树,之后点击

fc6b51f96c15779862fbed41811c8f52.png

,这样一棵树的模型规则就被复制了:

400bc9f32ef13308cb6f50925068e604.gif

之后先选择一张图片,点击

a5d37cf4a24daf4bae58936d4e0b6e86.png

进行粘贴,可以看出塔尖已经被替换成了树:

47fe092540af42201c5be0045a355c7f.gif

这时说明模型已经被成功复制粘贴了,之后点击交互页面右上方的

7f7ad04bd400e18eca31d618d37e4d9f.png

,就可以把“树”的模型规则粘贴到之前选择到context区域的三张图片上面了:

b8e3c94a8e8ff548b8e4c1eac6441e74.gif

除了能把塔尖变成树之外,重写模型还能把塔尖的锥形变成圆顶:

edc2fbf25ba13acd9d5f3e1ce3f2e7ed.png

既然重写模型操作这么方便,不如拿人脸来“开刀”--让人们“强颜欢笑":

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值