数据集与数据预处理

数据集

原始数据分为三部分：训练集、验证集、测试集
（1）将数据分为训练集和测试集，比例可为8:2
（2）将（1）中训练集继续分为训练集和验证集两部分，最终比例为：8:2:2.5
（3）对训练集随机抽样为小集合，用来训练，并在验证集上记录性能
（4）打散训练集、测试集、验证集中数据的排列方式，并重新训练。
（5）从训练集中随机抽取80%的数据进行多次训练，把训练集中剩下的数据作为验证集，然后观察不同抽取结果在测试集中的性能，把最好的一次训练结果当做最终模型。

数据预处理

0均值：通过用数据中每一维度的数据值减去所在维度的数据均值。
归一化：一种是将0均值后的数据的每一维度除以每一维的标准差；另一种就是把数据中的每一维度归一化到区间[a,b]。第二种只适用于数据的不同维度应该具有相同的重要性时，也就是每一维度数据的权重一样时。
主成分分析PCA：通过线性变换将原始数据变换为一组各维度线性无关的数据，可用于提取数据的主要特征向量，常用语高维度的降维。
白化：把主成分分析去相关后的数据，从对角矩阵再变成单位矩阵，使得数据具有相同的方差。