基于单目彩色视频的人体实时捕捉

引自视频号【三维匠心】

论文《LiveCap: Real-time Human Performance Capture from Monocular Video》

这是德国马普所和斯坦福大学联合发表的关于实时人体捕捉系统的工作。该工作可以仅通过输入一段单视角RGB视频，重建出稠密，时空一致性的，并且穿着日常衣服的整个人体的发生形变后的几何表面。

该工作提出了一种新颖的两阶段综合分析优化方法——

第一阶段，将蒙皮模板模型与去除背景的输入视频，通过神经网络回归的2D和3D骨架关节点以及一组稀疏的面部关键点检测进行联合拟合。

第二阶段，基于新颖的实时捕捉算法（使用稠密光度和轮廓约束进行非刚性形变追踪），重建了皮肤甚至宽松服装的稠密非刚性三维形变。该系统采用CPU和两个商用GPU设计了流水线并行架构，可以获得每秒25帧的实时性能，并且其重建精度和离线方法相当的情况下，其速度快了好几个两级。