作者 | 神经三羊
来源 | Hyper超神经
近日,日本男星星野源通过事务所发布声明,宣布结婚,新娘正是被不少男粉丝奉为「老婆」的新垣结衣。
「老婆嫁人了」、「星野源夺妻之痛」、「爷青结」……星野源和新垣结衣官宣结婚后,不少网友发出了如上感叹。
还有一波网友在坦然接受「失恋」现状后,转而关心起新垣结衣和星野源的孩子来,生怕孩子长得不像妈妈。
微博网友对二人孩子长相,表现出了极大关心
借助开源模型 BabyGAN,我们预测了新垣结衣和星野源未来孩子的长相。「大河」是《逃避虽然可耻但有用》剧中,二人孩子的名字,根据 BabyGAN 的预测,如果新垣结衣跟星野源的孩子是个女孩的话,那么不同年龄的大河可能长这样:
BabyGAN 生成的女儿成长动图
如果大河是个男孩的话,那么不同年龄的大河可能长这样:
BabyGAN 生成的儿子成长动图
BabyGAN 到底是何方神器
BabyGAN 是一个基于 StyleGAN 的儿童长相预测器,可以基于编码器和生成器,输入父亲和母亲的图像,经过神经网络的处理后,生成或预测未来孩子的长相。
预测方法:使用基于 GAN 架构的神经网络模型,从输入的父母图像中提取 latent representation,然后用算法将其按一定比例混合,生成孩子图像。利用 latency direction,可以改变年龄、面部朝向、情绪及性别等参数。
父亲(左)、预测长相(中)、母亲(右)
项目地址:
https://github.com/tg-bomze/BabyGAN
编码器:
https://github.com/pbaylies/stylegan-encoder
本教程主要演示了:
1、从本地加载训练好的 BabyGAN 模型
2、准备父母双方图像,并获取其 latent representation
3、用模型生成孩子的面容
4、调整孩子的性别、年龄等参数,生成符合需求的孩子图像
调整孩子性别、年龄等属性的示意动画
安装环境:Python:3.6;TensorFlow:1.15
注意事项:本教程推荐使用 GPU 运行
教程地址:
https://openbayes.com/console/openbayes/containers/WOpfLGoTdkg
模型训练过程详解
1、准备工作
2、准备父母图像
3、生成孩子图像
4、生成具有某些特征的孩子图像
查看完整教程:
https://openbayes.com/console/openbayes/containers/WOpfLGoTdkg
StyleGAN 相关的高赞开源项目
BabyGAN 模型基于 StyleGAN,除此之外,基于 StyleGAN 和 StyleGAN2,还派生出了诸多优质开源项目。
StyleALAE
StyleALAE 是一个基于 StyleGAN 生成器的对抗隐性自动编码器,它不仅可以生成图像质量与 StyleGAN 相当的 1024 x 1024 人脸图像,而且在同样的分辨率下,还可以基于真实图像进行人脸重建和属性更改。
StyleALAE 架构示意图
StyleALAE 编码器使用 Instance Normalization (IN) 层来提取多尺度风格信息,这些信息通过可学习的多重线性映射 (learnable multilinear map),组合成隐式代码 w。
相关论文:
https://arxiv.org/pdf/2004.04467.pdf
项目地址:
https://github.com/podgorskiy/ALAE
StyleFlow
虽然使用 StyleGAN 可以轻松生成高质量、多样化、逼真的图像,但是使用(语义)属性控制生成过程、同时又保持高质量输出,实现起来却并不简单。此外由于 GAN 潜在空间的纠缠特性,沿着一个属性编辑很容易引起其他属性的变化。
为了解决纠缠潜在空间的条件化探索中,属性条件化采样 (attribute-conditioned sampling) 和属性条件化编辑 (attribute- conditioned editing) 的问题,科研人员提出了 StyleFlow。
利用 StyleFlow 可以针对某一属性进行修改,而不引起其他属性的变化,如只更改光照、姿势、表情、性别等
用 StyleFlow 对真实图像进行非顺序 (non-sequential) 编辑,针对老年人、非对称等极端图像时,效果优于并发方法 (concurrent method)。
相关论文:
https://rameenabdal.github.io/StyleFlow/
项目地址:
https://github.com/RameenAbdal/StyleFlow
Pixel2style2pixel (pSp)
pSp 是一个用于图像到图像转换的 StyleGAN 编码器,它基于一个新型编码网络,可以直接生成一系列风格向量,这些风格向量被输入到预训练 StyleGAN 生成器中,形成扩展的 w+ 潜在空间。
在 pSp 中,编码器无需额外优化就可以直接将真实图像嵌入 w+ ,且利用编码器可以直接解决图像到图像的转换任务,并将其定义为从输入域到潜在域的编码问题。
pSp 在 StyleGAN 反演、多模态条件图像合成,人脸正面化、图像修复和超分辨率场景中的成果展示
pSp 可以在不改变结构的前提下,处理各种各样的图像转换任务,如由分割图生成人脸图像、人脸正面化、超分辨率等。
相关论文:
https://arxiv.org/abs/2008.00951
项目地址:
https://github.com/eladrich/pixel2style2pixel
GenForce
GenForce 是一个适用于 StyleGAN、StyleGAN2、PGGAN 等深度生成模型的高效 PyTorch 库,它具有以下特点:
1、分布式训练框架
2、训练速度快
3、模块化设计,适用于新模型的原型制作
4、与官方 TF 版本相比,高度再现了 StyleGAN 的训练
5、包含众多带 Colab demo 的预训练 GAN 模型
部分 GenForce 相关项目及论文
相关论文:
https://genforce.github.io/
项目地址:
https://github.com/genforce/genforce
关于 OpenBayes
OpenBayes 是国内领先的机器智能研究机构,提供算力容器、自动建模、自动调参等多项 AI 开发相关的基础服务。
同时 OpenBayes 还上线了数据集、教程、模型等众多主流公开资源,供开发者快速学习并创建理想的机器学习模型。
快行动起来,用 BabyGAN 预测未来孩子长相吧!
完整教程传送门:
https://openbayes.com/console/openbayes/containers/WOpfLGoTdkg
Colab 传送门:
https://colab.research.google.com/github/tg-bomze/BabyGAN/blob/master/BabyGAN_(ENG).ipynb
推荐阅读
点分享点收藏点点赞点在看