class1 PCA&Downsampling&Filtering

1.Introduction

• 点云表示

  Nx3的矩阵，或者Nx(3+D)的矩阵，D：点的额外特征
  
  

• 点云获取设备

  • lidar
  • RGB-D
  • CAD Models
  • Depth from Images

• 点云的应用领域

  • 机器人，自动驾驶
    • 定位：SLAM，闭环检测，点云匹配
    • 感知：目标检测，分类
    • 三维重建
  • 消费设备
    • 人脸识别(Face Id)
    • 手势识别
    • 体态识别

• 3D信息的其他表示形式

  • Mesh 普遍应用在游戏领域，机器人领域不常用
  • Voxel Grid
  • Octree

• 点云表示的优点

  • 数学上表示简单
  • 含有3D信息

• 点云表示的缺点

  • 稀疏 从激光雷达采集的点云，远处的点很稀疏，近处的点很密集
  • 没有规律 无法像图像那样简单的最近邻搜索
  • 没有纹理信息
  • 无序 很难使用深度学习
  • 旋转不变

2.Principle Component Analysis(PCA)

三维PCA	二维PCA

• 使用PCA找到点云的主方向

• PCA的应用

  • 降维
  • 曲面法向量估计
  • 关键点检测
  • 特征提取

• 一些概念

  • 向量点乘，就是一个向量投影到另一个向量上的长度
    

  • 矩阵向量相乘， 线性加和
    

  • 矩阵的SVD分解

    $M=U\ast \Sigma \ast V^{\ast }$,其中，$U,V^{\ast }$是正交矩阵（旋转矩阵），$\Sigma$是对角阵，元素是$M$的特征值的平方根，按照从大到小的顺序排列；

    如下图所示，一个圆 经过一个$M$处理，就是，先经过一个$V^{\ast }$,做一个旋转，经过一个$\Sigma$,各个维度上的一个缩放，圆变成了椭圆，最后经过一个$U$，旋转一下，得到最后的结果
    

• 谱定理Spectral Theorem

  对阵矩阵A的分解

• 瑞丽商Rayleigh Quotients
  ​ 根据SVD的那个解释图，瑞丽商表示对称矩阵A可以把x缩放多少倍，最大特征值倍到最小特征值倍

• PCA

  证明过程也可以看机器学习课程笔记（notes/pdf_notes)

  • Input: $x_i\in R^n,i=1,2,3,...,m$

  • output： 主成分向量 $z_1,z_2,...,z_k\in R^n,k<=n$

  • Q：哪些是最主要的成分？

    A：把数据投影到这个方向上，方差最大的就是最主要的成分

  • Q：怎样获取第二、第三重要的成分？

    A：将第一主成分去掉，再找一次主成分，得到第二主成分，以此类推

  • 下面会有详细解释

• Principle Component Analysis - Proof

  • 将数据做归一化处理，因为只关心数据的方向，和中心点无关
    

  • PCA就是找到一个方向$z\in R^n,||z|{|}_2=1$，投影之后方差最大, 所以先投影，得到${\alpha }_i$（标量）
    

  • 投影之后计算方差（归一化后,均值为0），写成矩阵形式
    

  • 最大化这个方差
    

  • 调用瑞丽商公式
    

  • 调用谱定理
    

  • 应用到PCA
    

• PCA - Summary

  • 给定数据 $x_i\in R^n,i=1,2,3,...,m$，PCA的流程

1. 归一化
2. 计算协方差矩阵然后对其进行SVD分解
3. 主方向是$U_r$的列向量,前n列，就是前n个主方向（Eigenvector of 𝑋 = Eigenvector of 𝐻）

• PCA实际上是一个换基底的过程

• PCA - 降维

  给定数据$x_i\in R^n,i=1,2,3,...,m$，使用PCA提取出来$l$个主成分 z 1 , z 2 , . . . , z l , z j ∈ R n {z_1,z_2,...,z_l},z_j\in R^n z1​,z2​,...,zl​,zj​∈R