机器学习笔记--基本概念

降维

机器学习领域中所谓的降维就是指采用某种映射方法，将原高维空间中的数据点映射到低维度的空间中。降维的本质是学习一个映射函数 f : x->y，其中x是原始数据点的表达，y是数据点映射后的低维向量表达，通常y的维度小于x的维度，当然提高维度也是可以的。

特征选择

还有一大类方法本质上也是做了降维，叫做特征选择（feature selection），目的是从原始的数据feature集合中挑选一部分作为数据的表达。在很多算法中，降维算法成为了数据预处理的一部分，如PCA。

矩阵的迹

一个n×n矩阵A的主对角线（从左上方至右下方的对角线）上各个元素的总和被称为矩阵A的迹（或迹数），一般记作tr(A)。