脸部转正!GAN能否让侧颜杀手、小猪佩奇真容无处遁形?

欢迎点击上方蓝字,关注啦~


相关阅读:

GAN整整6年了!是时候要来捋捋了! 

容颜渐失!GAN来预测?

弱水三千,只取你标!AL(主动学习)结合GAN如何?

异常检测,GAN如何gan ?

虚拟换衣!速览这几篇最新论文咋做的!

脸部妆容迁移!速览几篇用GAN来做的论文

【1】GAN在医学图像上的生成,今如何?

01-GAN公式简明原理之铁甲小宝篇


这日,你漫步于街头,闲看车水马龙、行人熙攘。

忽然,一个惊世骇俗的侧颜闪现于你左前方15米处,你不禁心头一惊:

“这般侧颜,必属盛世无双,人间难得几回观?”

于是你夺步寻去,意欲一览此般倾世容颜……

几分钟后,你大失所望,怨道:

“正脸居然不过如此!真是侧颜杀手!”

图自网络,侵删。

失落的你、此刻只能打开小猪佩奇动画,一解忧愁。

“这只猪总是用侧脸面对观众,另一面却从来没人见过。奇怪的是,即使从侧颜看去,还是两只眼睛和两个鼻孔。”

于是你抚心、而发出灵魂一问:

“给定侧颜,如何得到其正脸之真容???”


哈哈,今天整理的是用GAN进行“脸部转正”的论文(待看)。即给定一幅侧脸图像,如何得到正脸图像?

1 (2020-1-6) PI-GAN: LEARNING POSE INDEPENDENT REPRESENTATIONS FOR MULTIPLE PROFILE FACE SYNTHESIS

https://arxiv.xilesou.top/pdf/2001.00645.pdf

我们往往希望,通过某种方法去提取某一人脸姿态图像的固定不变的“姿态表示特征”,并以此去生成多种视图的姿态图像,例如人脸转正(给定一幅侧脸,即可推知正脸图像)。从某个面部朝向姿势图像去合成其它面部姿势,如何获取“姿态表示特征”仍然是一个难题。人脸转正在诸如多媒体安全性、计算机视觉、机器人技术等各个领域都有应用价值。

为了解决这个问题,本文提出了PIGAN(循环共享编码器/解码器框架),利用具有编码器-解码器结构的生成对抗网络(GAN),联合判别器网络,去学习提取“与姿态无关的特征”,再利用其实现逼真的人脸合成。

与传统的GAN相比,它还由辅助的编码器-解码器框架组成,它与主框架中共享权重,并从原始姿势图像重构图像;主框架着重于创建“解耦表示”,而次框架旨在还原原始面孔。使用CFP高分辨率数据集进行方法的验证。

实验:CFP数据集。由500个人组成,每人包含10幅正面图像和4幅侧脸。在450个人上训练模型,并对剩余进行评估。基本框架架构遵循DCGAN 的实现。效果图如下,有些乍一看还挺好?

2 (2019-02-26) BoostGAN for Occlusive Profile Face Frontalization and Recognition

https://arxiv.xilesou.top/pdf/1902.09782.pdf

有许多因素会影响人脸识别效果,例如姿势、遮挡、照明、年龄等等,其中最主要的是大姿势和遮挡问题,这些问题甚至可能模型的性能下降10%以上。

“姿势不变特征表示”和利用生成对抗网络(GAN)进行人脸转正已被广泛用于解决姿势问题。然而,受遮挡的侧脸的识别仍然是一个待解决的问题。为此本文提供一种有效的解决方案,即使面对脸部关键点区域(例如眼睛,鼻子等)受损或遮挡的侧脸图像,也去尝试识别。

具体来说,提出一个BoostGAN,用于去遮挡,正面化和面部识别。基于面部遮挡是部分且不完整的假设,多个遮挡块的图像将作为输入,也就是所谓的的“knowledge boosting”,例如身份和纹理信息。然后,进一步设计了一种新的聚合网络模块,用于最终精细的图像合成。

3 (2018-10-6) Learning a High Fidelity Pose Invariant Model for High-resolution Face Frontalization

https://arxiv.xilesou.top/pdf/1806.08472.pdf

人脸正面化是指根据给定的侧脸去合成人脸正面视图的过程。由于遮挡和扭变,要恢复较好的结果、以高分辨率保存纹理细节极为困难。本文提出了一种高保真姿势不变模型(HF-PIM)来产生逼真的、能保持身份特征一致的结果。

4 (2018-3-4) Load Balanced GANs for Multi-view Face Image Synthesis

https://arxiv.xilesou.top/pdf/1802.07447.pdf

从单个图像去合成多视图人脸是一个ill-posed病态、不定的问题,结果往往有严重的外观失真。生成逼真的、保留身份的多视图仍然是一个挑战。本文提出了负载平衡生成对抗网络(LB-GAN),可以将输入人脸图像的偏航角精确地旋转到任意指定角度。

LBGAN将具有挑战性的综合问题分解为两个子任务:人脸标准化和人脸编辑。标准化首先对输入图像进行正面化,然后编辑器将正面化的图像旋转到所需姿势。为了生成逼真的局部细节,对标准化器和编辑器进行两阶段训练,并通过有条件的self-cycle loss和基于L2 loss的attention进行约束。

5 (2017-12-13) UV-GAN Adversarial Facial UV Map Completion for Pose-invariant Face Recognition

https://arxiv.xilesou.top/pdf/1712.04695.pdf

最近提出的鲁棒的3D人脸对齐方法在3D人脸模型和2D人脸图像之间建立了密集或稀疏的对应关系。这些方法的使用对于面部纹理分析既是挑战也是机遇。特别是,通过使用拟合模型(fitted model)对图像进行采样,可以创建面部UV。D但由于遮挡,UV图总是不完整的。本文提出UV-GAN,用生成的UV图生成任意姿态的2D面部图像。

6 (2017-08-17) Towards Large-Pose Face Frontalization in the Wild

https://arxiv.xilesou.top/pdf/1704.06244.pdf

尽管最近在使用深度学习的面部识别方面取得了进步,但是在较大的姿势变化下,严重影响性能。学习姿势不变特征是一种解决方案,但是需要昂贵的大规模数据标注和精心设计的特征学习算法。本文结合 3D Morphable Model (3DMM) 和 GAN 来进行人脸转正,称为FF-GAN。

7 (2017-08-3) Beyond Face Rotation: Global and Local Perception GAN for Photorealistic and Identity Preserving Frontal View Synthesis

https://arxiv.xilesou.top/pdf/1704.04086.pdf

本文提出了一种两路生成对抗性网络(TP-GAN),用于通过同时感知全局结构和局部细节来实现逼真的正面视图合成。除了常用的全局编码器/解码器网络之外,还提出了四个局部块网络来处理局部纹理。此外,引入对抗性损失,对称性损失和身份保留损失的损失组合。


更多分享欢迎关注本公众号:

  • 0
    点赞
  • 12
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值