降维
机器学习领域中所谓的降维就是指采用某种映射方法,将原高维空间中的数据点映射到低维度的空间中。降维的本质是学习一个映射函数 f : x->y,其中x是原始数据点的表达,y是数据点映射后的低维向量表达,通常y的维度小于x的维度,当然提高维度也是可以的。
特征选择
还有一大类方法本质上也是做了降维,叫做特征选择(feature selection),目的是从原始的数据feature集合中挑选一部分作为数据的表达。在很多算法中,降维算法成为了数据预处理的一部分,如PCA。
矩阵的迹
一个n×n矩阵A的主对角线(从左上方至右下方的对角线)上各个元素的总和被称为矩阵A的迹(或迹数),一般记作tr(A)。