3D【9】人脸重建:Joint3D Face Reconstruction and Dense Alignment with Position Map Regression

本文提出了一种结合3D人脸重建和密集对齐的方法,通过将3D mesh的顶点映射到UV图上,使用CNN预测坐标。在损失函数中采用加权策略优化不同区域的精度,但实验结果显示生成的mesh存在条纹状问题。相关代码已开源。
摘要由CSDN通过智能技术生成

该论文同时预测人脸特征点和3D mesh的顶点坐标x,y,z。人脸特征点没什么好说的,现在已经有很多成功的案例了。主要关注该论文是如何预测顶点坐标的。其实大概想想,就能够大致确定直接预测顶点坐标是有不少困难的。首先是,你不能把所有的顶点拉成一个向量,用全连接层预测;要用卷积层作为输出的话,mesh又不能直接表示成一个固定大小的张量(这正好是用cnn来预测所需要解决的问题,比如将mesh立方体化)。

该论文通过将mesh的顶点用uv图表示,从而达到了将mesh用一个固定大小的张量表示(256×256×3)。一个3D mesh的顶点的纹理坐标可以用uv信息找到。而作者则利用了这一点,将40K的顶点映射到了256×256(60K+个顶点)的图片过去,每个点的内容为归一化后的顶点坐标x,y,z。作者这个uv图做的很好,每个顶点映射到这张uv图上都没有重叠的。如下:
这里写图片描述
上图左边是真是图片和相应的3D 人脸。右边上面那一行分别是:真实图片,uv纹理图,mesh映射到uv图上;下一行分别是mesh映射到uv图上的x,y,z。

有了上面的表示方法,就可以用CNN网络像预测一张图片那样直接预测顶点坐标了,具体没什么好说的。下图:
这里写图片描述

作者为了更好

  • 2
    点赞
  • 12
    收藏
    觉得还不错? 一键收藏
  • 29
    评论
评论 29
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值