1.SMPL模型简介
SMPL是通过参数控制的人体模型,可控制的参数为Pose和Shape。总共有24个关节点和10个Shape控制参数,模型及关节索引如下图。
1.1.Pose——旋转向量控制关节点旋转
每个关节通过一个旋转向量控制,如下图为手动控制关节点4绕Z轴旋转90度、关节点19绕Y轴旋转90度的结果。
旋转关节点是在关节点的坐标系下操作的旋转,部位会随着父节点旋转而联动位移旋转。例如上述再绕Z轴旋转-90度,结果如下图。
1.2.Shape——10个Shape参数控制体型
Shape参数是通过PCA提取的10个参数。通过Shape可以控制体型,如下为控制第一个参数为-10和10的结果。通过10个参数控制可以逼近真实人体体型,影响高低、胖瘦、关节长短等。
SMPL的骨骼如下图所示
2.Azure Kinect Body
Azure Kinect通过深度图可以检测出稳定的人体关节,关节点及其索引如下图所示。
同样可以获得关节点的旋转,但是每个关节的坐标系独立且方向不全一致,每个关节点的坐标系如下图。
通过Azure Kinect实际采集的骨架绘制结果如下:
3.人体骨骼拟合
3.1.初步对齐
由于SMPL与Azure Kinect坐标系不一致,首先需要将SMPL与Kinect Body移动旋转到同一个位置。未对齐的示意图如下:
根据上述两节的关节对应关系,形成对应的参考点对齐Map。首先将SMPL Joint0与Kinect Body Joint0移动到一起,然后构造 SMPL Joint0->Joint3 向量
V
s
Vs
Vs 和 Kinect Body Joint0->Joint1 向量
V
k
Vk
Vk。之后构造
V
s
Vs
Vs 旋转到
V
k
Vk
Vk 的旋转向量。操作SMPL模型进行旋转平移,即完成初步对齐,示意图如下:
3.2.调节参数进行骨骼对齐
设计能量函数为:
E
(
β
,
θ
)
=
∑
i
=
1
24
(
R
θ
(
J
(
β
)
i
)
−
J
k
i
n
e
c
t
,
i
)
E(\beta,\theta)=\sum_{i=1}^{24}(R_\theta(J(\beta)_i)-J_{kinect,i})
E(β,θ)=i=1∑24(Rθ(J(β)i)−Jkinect,i)
即,让SMPL的关节点与Kinect Body的对应关节点距离最小。最终优化的结果如下图所示:
此时Azure Kinect Body与SMPL的三维人体模型初步对齐。效果并不是特别好,因为Azure Kinect Body与SMPL的关节点不是完全一致的。需要对Azure Kinect Body骨骼进行变形,形成Azure Kinect Body到SMPL骨骼的近似转化关系。从而更加准确的进行人体建模。骨骼变形结果如下:
(蓝色为Azure Kinect Body采集原始骨骼,绿色SMPL骨骼,红色为Azure Kinect Body变形到SMPL之后的骨骼)
此时进行迭代优化,即可得到较好结果。如下图为拟合结果与采集点云的融合:
如上完成了使用Azure Kinect Body构造SMPL模型的过程,后续可以增加与点云的迭代优化本文中不再赘述。