SDEdit一点成画,小白也能是绘画大师!
阅读说明:本文约2000字,建议阅读10分钟,也可观看文末视频。
现在可以不再使用复杂的GAN和transformer架构进行图像生成了。斯坦福大学和卡内基梅隆大学的Chenling Meng等人提出的新方法,可以从用户任何输入的图形生成新图像。即使是像我这样的艺术技能小白,现在也可以利用速写草图生成美丽的画稿或修改稿。
一开始听起来可能很神奇,但通过向输入中添加噪声,就可以像人工编辑一般消除不需要的伪像,同时保留图像的整体结构。现在图像看起来像这样,完全是噪点,但我们仍然可以看到图像的一些形状和笔触,以及特定的颜色。然后,将此新的噪声输入发送到模型,以反转此过程,并根据此总体结构生成新版本的图像。这意味着它将遵循图像的整体形状和颜色,但不会精确到可以创建新功能,例如用真实的胡须替换此草图。
同样,您可以发送这种图像的完整草稿,向其中添加噪点,然后通过模拟反向步骤来消除噪点。这样,它将根据任何输入的特定数据集样式,逐步提高生成图像的质量! 这就是为什么您不再需要任何绘画技巧! 由于它从噪声中生成图像,因此在应用噪声之前,并不知道也不需要知道初始输入。与条件 GAN 或其它生成网络相比,这是一个巨大的差