机械臂手眼标定方法详解

0 背景

为了使机械臂更好地完成任务， 通常会搭配摄像头等感知设备。 根据机械臂与摄像头的连接关系， 通常有2种模式， 一种是摄像头安装在机械臂上， 称为眼在手上（eye-on-hand）， 另一种是摄像头不在机械臂上， 称为眼在手下（eye-off-hand）。眼在手上这种方式更常用， 因此本文主要讲解这种模式下的手眼标定方法。

1 手眼标定解决什么问题

标定目的是为了统一坐标系。摄像头检测的物体是在摄像头的坐标系下， 机械臂的运动又是在机械臂自身坐标系下。 物体是同一个物体， 但在不同的坐标系下有不同的坐标表示， 这就需要统一到一个坐标系下。

2 标定的原理

2.1 坐标系定义

首先明确坐标系：机械臂项目一般存在四个坐标系

• 基坐标系：机械臂的基座为原点的坐标系
• 末端关节坐标系：一般机械臂末端关节会覆盖一层法兰，因此机械臂末端关节坐标系又为法兰末端坐标系，实际上，末端关节坐标系在基坐标系下的位姿，就是我们常说的机械臂位姿
• 工具末端坐标系：显然机械臂在工作过程中，机械臂末端会搭载工具，而我们往往希望工具移动到某个位置，而不是机械臂末端运动到某个位置，这时我们就需要为工具建立一个它自己的坐标系，也就是工具末端坐标系
• 相机坐标系：相机定义的坐标系。 要区别于图像像素坐标系。
  

如上图是一个机械臂，在关节末端附近安装了摄像头， 并搭配了机械夹爪作为工具。

机械臂手眼标定就是要找出相机坐标系到末端关节坐标系的转换关系。

2.2 标定原理

记 相机坐标系到末端关节坐标系的转换关系为$T_{cam}^{arm}$,
关节末端坐标系到基坐标系的转换关系为$T_{arm}^{base}$，
物体在相机坐标系下的位姿为$Pos{e}_{cam}$

则可以得到物体在基坐标系下的位姿：
$$Pos{e}_{base}=T_{arm}^{base}\ast T_{cam}^{arm}\ast Pos{e}_{cam}$$

标定时， 我们要保持物体位置不变， 机械臂基座不动，那么$Pos{e}_{base}$就是不变的。

通过移动机械臂到N（为了保证标定效果， N一般取10~20）个不同位姿， 那么就得到了N个位姿变换关系：
$$Pos{e}_{bas{e}_1}=T_{ar{m}_1}^{base}\ast T_{cam}^{arm}\ast Pos{e}_{ca{m}_1}$$
$$...$$
$$Pos{e}_{bas{e}_N}=T_{ar{m}_N}^{base}\ast T_{cam}^{arm}\ast Pos{e}_{ca{m}_N}$$
其中$T_{cam}^{arm}$是我们的待求变量； $T_{arm}^{base}$可以通过机械臂获得， 是已知的；$Pos{e}_{cam}$ 可以通过相机标定（如张正友标定法）来获得，也是已知的。

$Pos{e}_{base}$ 虽然不知道，但是它满足一个重要的关系，
$$Pos{e}_{bas{e}_1}=Pos{e}_{bas{e}_2}=...=Pos{e}_{bas{e}_N}$$
这个关系是我们能进行标定的核心。

根据上述关系就可以得到：
$$T_{ar{m}_1}^{base}\ast T_{cam}^{arm}\ast Pos{e}_{ca{m}_1}=...=T_{ar{m}_N}^{base}\ast T_{cam}^{arm}\ast Pos{e}_{ca{m}_N}$$

任意取出一组等式， 并做一些变换， 可得到：

即可得到经典的$$AX=XB$$
其中A和B是已知的， 求解X。 这个问题的求解方法有很多。opencv中也集成了响应的方法可以直接求解。

3 具体操作流程

1 准备好一张棋盘格标定板， 放置在一个平整的工作面上， 保证机械臂的摄像头可以清晰地看到这个标定板；

2 采集10~20组数据。 保持标定板不动， 机械臂的基座不动，转动机械臂到任意位姿， 记录下当前机械臂的位姿，并保存当前摄像头拍摄的标定板图片。 重复这个过程10 ~20次。

3 解算相机坐标系到机械臂末端坐标系的变换关系。 主要包含2步， 第一步解算得到相机的位姿， 第二步利用相机的位姿和机械臂的位姿完成手眼标定。

4 代码

详细代码见 https://github.com/leo038/hand_eye_calibrate, 代码提供了详细的说明指导， 欢迎star!