SfM——八点法计算F矩阵（基础矩阵）与三角测量

1 八点法计算F矩阵（基础矩阵）

基础矩阵用于描述两个视图之间的几何关系

1. 基础矩阵：基础矩阵 $F$ 是描述两个视图之间相机投影关系的矩阵。对于两个对应的图像坐标点 $(x,y,1)$ 和 $(u,v,1)$​ 在两个视图上，基础矩阵满足以下方程：

   这个方程即对极约束，描述了图像中对应点的投影关系

$${\left[\begin{array}{c}u\\ v\\ 1\end{array}\right]}^T\cdot F\cdot \left[\begin{array}{c}x\\ y\\ 1\end{array}\right]=0$$

2. 线性系统：对于多对对应点，可以构建一个线性方程系统 $Af=0$ ，其中 $A$ 是由对应点生成的矩阵， $f$​ 是基础矩阵的扁平形式

   上述方程即：

$$\left[\begin{array}{ccc}u& v& 1\end{array}\right]\cdot \left[\begin{array}{ccc}{f}_{11}& f_{12}& f_{13}\\ f_{21}& f_{22}& f_{23}\\ f_{31}& f_{32}& f_{33}\end{array}\right]\cdot \left[\begin{array}{c}x\\ y\\ 1\end{array}\right]=0$$

​ 展开得到：

$$\left[\begin{array}{ccccccccc}ux& vx& x& uy& vy& y& u& v& 1\end{array}\right]\cdot \left[\begin{array}{c}{f}_{11}\\ f_{12}\\ f_{13}\\ f_{21}\\ f_{22}\\ f_{23}\\ f_{31}\\ f_{32}\\ f_{33}\end{array}\right]=0$$

​ 这个矩阵方程可以表示为 $A_{i}f=0$​

​ 为了解出这个9个未知数的 $f$ ，我们至少需要8对点，所以叠加 $A_i$ 得到 $A$ 矩阵

$$A=\left[\begin{array}{ccccccccc}{x}_1{u}_1& x_1{v}_1& x_1& y_1{u}_1& y_1{v}_1& y_1& u_1& v_1& 1\\ x_2{u}_2& x_2{v}_2& x_2& y_2{u}_2& y_2{v}_2& y_2& u_2& v_2& 1\\ ⋮& ⋮& ⋮& ⋮& ⋮& ⋮& ⋮& ⋮& ⋮\\ x_8{u}_8& x_8{v}_8& x_8& y_8{u}_8& y_8{v}_8& y_8& u_8& v_8& 1\end{array}\right]$$

3. 最小二乘法：通过奇异值分解（SVD），取 $V^T$ 的最后一列作为估计矩阵 $A$ 的最小二乘解，即 $f$

   方程的最小二乘解有一个既定的结论，即对 $A$ 进行SVD分解，得到的 $V^T$ 的最后一行 即是 $f$ 的解

4. 基础矩阵还原：将 $f$ reshape 为 $3\times 3$​ 的矩阵，然后通过奇异值分解（SVD）对矩阵进行调整，以确保基础矩阵的秩为2

   • SVD分解：
     对矩阵 $F$ 进行奇异值分解：$F=U\Sigma V^T$ ，其中 $U$ 和 $V$ 是正交矩阵，$\Sigma$ 是对角矩阵

   • 秩-2约束：
     将奇异值矩阵 $\Sigma$ 调整为仅保留前两个奇异值（将第三个奇异值设为0），以确保基础矩阵的秩为2

   • 重构基础矩阵：
     $F=U{\Sigma }^{\prime }{V}^T$

   F = f.reshape((3, 3))
   
   # 对F进行SVD分解
   U, S, Vt = np.linalg.svd(F)
   
   # 将奇异值矩阵Sigma调整为仅保留前两个奇异值（第三个设为0）
   S[2] = 0
   
   # 重构基础矩阵F
   F = np.dot(U, np.dot(np.diag(S), Vt))
   

5. 归一化：对基础矩阵进行归一化，以确保尺度的一致性

2 标准化八点算法

对普通的八点算法进行了改进，通过标准化输入数据，提高了算法的稳健性和准确性

1. 我们首先将对应点标准化为零均值和单位方差，以消除尺度的影响

   mean1 = np.mean(keypoints1, axis=0)
   mean2 = np.mean(keypoints2, axis=0)
   std1 = np.std(keypoints1, axis=0)
   std2 = np.std(keypoints2, axis=0)
   # 防止除0，由于齐次坐标，标准差std算得最后一项为0
   std1[2] = 1
   std2[2] = 1
   nomalized_points1 = (keypoints1 - mean1) / std1
   nomalized_points2 = (keypoints2 - mean2) / std2
   

$$\bar{x}=\frac{x-\overline{{\mu }_x}}{{\sigma }_x}$$

也等于左乘一个转换矩阵 $T$ ：

$$T=\left[\begin{array}{ccc}\frac{1}{{\sigma }_x}& 0& -\frac{{\mu }_x}{{\sigma }_x}\\ 0& \frac{1}{{\sigma }_y}& -\frac{{\mu }_y}{{\sigma }_y}\\ 0& 0& 1\end{array}\right]$$

2. 在这些标准化点上运行八点算法

3. 最后对得到的基本矩阵进行反变换，在计算基础矩阵后，需要将其进行撤销标准化处理，以获得最终的基础矩阵

$$F=T_2^{-1}\cdot F_{normalized}\cdot T_1$$

3 三角测量

我们有两个相机，它们的c分别为 $P_1$ 和 $P_2$ （ $3\times 4$​ 矩阵）。

$$P=K\left[\begin{array}{c}R|t\end{array}\right]$$

对于一个在相机1和相机2中分别观察到的同一物体的对应点 ${\tilde{x}}_1$ 和 ${\tilde{x}}_2$ （齐次坐标 $3\times 1$ 向量） ，我们可以得到以下方程：其中，$\tilde{X}$ （齐次坐标 $4\times 1$ 向量）是物体在三维空间中的坐标

$$\begin{gathered} P_1\tilde{X}={\tilde{x}}_1 \\ {P}_2\tilde{X}={\tilde{x}}_2 \end{gathered}$$

将 $P$ 分解为三个向量：

$$\begin{gathered} P_i=\left[\begin{array}{c}{P}_{i1}\\ P_{i2}\\ P_{i3}\end{array}\right] \\ {P}_{i1}=[p_{11},p_{12},p_{13},p_{14}] \\ {P}_{i2}=[p_{21},p_{22},p_{23},p_{24}] \\ {P}_{i3}=[p_{31},p_{32},p_{33},p_{34}] \end{gathered}$$

这样，原等式就变为：

$$\left[\begin{array}{c}{P}_{i1}\tilde{X}\\ P_{i2}\tilde{X}\\ P_{i3}\tilde{X}\end{array}\right]=\left[\begin{array}{c}{x}_i\\ y_i\\ 1\end{array}\right]$$

将左边向量齐次化除以第三个元素，与右边向量元素一一对应：

$$\begin{gathered} P_i\tilde{X}=\left[\begin{array}{c}\frac{P_{i1}\tilde{X}}{P_{i3}\tilde{X}}\\ \frac{P_{i2}\tilde{X}}{P_{i3}\tilde{X}}\\ 1\end{array}\right]=\left[\begin{array}{c}{x}_i\\ y_i\\ 1\end{array}\right]={\tilde{x}}_i \\ {x}_i=\frac{P_{i1}\tilde{X}}{P_{i3}\tilde{X}}\Rightarrow x_i{P}_{i3}\tilde{X}-P_{i1}\tilde{X}=0 \\ {y}_i=\frac{P_{i2}\tilde{X}}{P_{i3}\tilde{X}}\Rightarrow y_i{P}_{i3}\tilde{X}-P_{i2}\tilde{X}=0 \end{gathered}$$

由于我们知道 $x_1$ 、 $x_2$ 和 $P_1$ 、 $P_2$​​ ，我们可以将其转化为一个齐次线性方程组：

$$\begin{gathered} A_1=\left[\begin{array}{c}{x}_1{P}_{13}-P_{11}\\ y_1{P}_{13}-P_{12}\end{array}\right] \\ {A}_2=\left[\begin{array}{c}{x}_2{P}_{23}-P_{21}\\ y_2{P}_{23}-P_{22}\end{array}\right] \\ A=\left[\begin{array}{c}{A}_1\\ A_2\end{array}\right] \\ A\tilde{X}=0 \end{gathered}$$

A = np.array(
    [keypoint1[0] * P1[2] - P1[0],
     keypoint1[1] * P1[2] - P1[1],
     keypoint2[0] * P2[2] - P2[0],
     keypoint2[1] * P2[2] - P2[1]]
)

这样我们就可以使用最小二乘法或其他方法来解决这个线性方程组，从而找到物体的三维位置 $X$​

# DLT算法解决最小二乘法
_, _, Vt = np.linalg.svd(A)
x_w = Vt[-1]
x_w = x_w / x_w[3] # 齐次坐标