[SIGGRAPH2017](FLAME)Learning a model of facial shape and expression from 4D scans

本文提出一种结合精细与通用特性的3D面部模型。通过整合多个数据库,该模型能够精确表示不同个体的身份特征、姿势及表情变化。利用线性表示和基于关节的方法构建形状模型,并采用基于情绪的局部变形来模拟表情。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

标题:Learning a model of facial shape and expression from 4D scans
链接:https://ps.is.tuebingen.mpg.de/uploads_file/attachment/attachment/400/paper.pdf

动机

现在的3D模型有俩极端:
1.人工的3D模型,非常精细,但是需要大量人力
2.通用的3D模型,可以很容易匹配图像和视频,但是比较粗糙
所以这个文章就是为了同时满足上述两方面的需求

数据

早期的generic face model由于数据不足,所以能表达的面部形状有限。因此这篇文章就融合了三个数据库来弥补数据不足的问题。并且这文章的FLAME中的人物身份,姿势,面部表情都是分别单独表示的。
用CAESAR数据库来学习身份形状的表示
用D3DFACS数据库来学习姿势和表情的表示
用FaceWarehouse数据库来学习面部表情的表示(?)

模型

模型分为几个部分:

  1. 【形状】线性的身份形状表示+基于关节法表示的下巴,脖子,眼球
  2. 【姿势】与姿势相关的下巴,脖子表示
  3. 【表情】基于情绪的局部变形

训练方法

姿势参数
使用了三个约束来拟合3D模型和数据:

  1. E_D用于惩罚重构误差
  2. E_P用来保证blend的时候各项分摊平均且尽量减少整体的变动
  3. E_W用来保证每个部分都不会变化太大(例如眼睛歪到嘴巴上去)

E_P和E_W是互相竞争的,用于保证模型不会过拟合

表情参数
文中假设无表情的面部状态是已知的,然后计算每个表情的变化就只需要用每个表情的状态减去无表情的状态,最后做个PCA就得到了最终参数

形状参数
标准模板就是将姿势和面部表情移除后所有脸的平均值。最后做个PCA得到最终参数

重点:

registration:将一对数据进行配准。具体来说就是将现有的3D模型匹配到真实数据当中,从而去噪和补全原数据。
rigid:刚性的,刚性物体只能旋转平移,所以变形只需要考虑旋转角度和平移距离即可
non-rigid:非刚性的,非刚性物体不仅可以旋转平移,还可以变形,一般来说会用一组目标状态来综合表示。例如,用一组表情(喜怒哀乐)来综合表示一个人的情绪。
参考链接:SIGCourse:Dynamic Registration

linear blend skinning(LBS),SMPL:模拟人体运动的两个模型
参考链接:SMPL论文解读和相关基础知识介绍 - 凌辰两点的文章 - 知乎

### RT-DETRv3 网络结构分析 RT-DETRv3 是一种基于 Transformer 的实时端到端目标检测算法,其核心在于通过引入分层密集正监督方法以及一系列创新性的训练策略,解决了传统 DETR 模型收敛慢和解码器训练不足的问题。以下是 RT-DETRv3 的主要网络结构特点: #### 1. **基于 CNN 的辅助分支** 为了增强编码器的特征表示能力,RT-DETRv3 引入了一个基于卷积神经网络 (CNN) 的辅助分支[^3]。这一分支提供了密集的监督信号,能够与原始解码器协同工作,从而提升整体性能。 ```python class AuxiliaryBranch(nn.Module): def __init__(self, in_channels, out_channels): super(AuxiliaryBranch, self).__init__() self.conv = nn.Conv2d(in_channels, out_channels, kernel_size=3, padding=1) self.bn = nn.BatchNorm2d(out_channels) def forward(self, x): return F.relu(self.bn(self.conv(x))) ``` 此部分的设计灵感来源于传统的 CNN 架构,例如 YOLO 系列中的 CSPNet 和 PAN 结构[^2],这些技术被用来优化特征提取效率并减少计算开销。 --- #### 2. **自注意力扰动学习策略** 为解决解码器训练不足的问题,RT-DETRv3 提出了一种名为 *self-att 扰动* 的新学习策略。这种策略通过对多个查询组中阳性样本的标签分配进行多样化处理,有效增加了阳例的数量,进而提高了模型的学习能力和泛化性能。 具体实现方式是在训练过程中动态调整注意力权重分布,确保更多的高质量查询可以与真实标注 (Ground Truth) 进行匹配。 --- #### 3. **共享权重解编码器分支** 除了上述改进外,RT-DETRv3 还引入了一个共享权重的解编码器分支,专门用于提供密集的正向监督信号。这一设计不仅简化了模型架构,还显著降低了参数量和推理时间,使其更适合实时应用需求。 ```python class SharedDecoderEncoder(nn.Module): def __init__(self, d_model, nhead, num_layers): super(SharedDecoderEncoder, self).__init__() decoder_layer = nn.TransformerDecoderLayer(d_model=d_model, nhead=nhead) self.decoder = nn.TransformerDecoder(decoder_layer, num_layers=num_layers) def forward(self, tgt, memory): return self.decoder(tgt=tgt, memory=memory) ``` 通过这种方式,RT-DETRv3 实现了高效的目标检测流程,在保持高精度的同时大幅缩短了推理延迟。 --- #### 4. **与其他模型的关系** 值得一提的是,RT-DETRv3 并未完全抛弃经典的 CNN 技术,而是将其与 Transformer 结合起来形成混合架构[^4]。例如,它采用了 YOLO 系列中的 RepNCSP 模块替代冗余的多尺度自注意力层,从而减少了不必要的计算负担。 此外,RT-DETRv3 还借鉴了 DETR 的一对一匹配策略,并在此基础上进行了优化,进一步提升了小目标检测的能力。 --- ### 总结 综上所述,RT-DETRv3 的网络结构主要包括以下几个关键组件:基于 CNN 的辅助分支、自注意力扰动学习策略、共享权重解编码器分支以及混合编码器设计。这些技术创新共同推动了实时目标检测领域的发展,使其在复杂场景下的表现更加出色。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值