在做大型项目时,不要每次都做数据预处理! 一般是一步一步来,1.做完预处理再做训练,2.做完训练再预测,3.然后根据预测的结果迭代调节模型和数据(交叉验证、过/欠采样等)。 由于需要训练模型预测unknown值,预处理过程的时间代价比较大。因此将预处理后的数据持久化,保存到文件中,之后的学习模型直接读取文件数据进行训练预测,无须再预处理。 简单的表述就是,将需要参数的部分和不需要参数的部分完全解耦合;将参数类型不同的部分解耦合。 例如:将预处理的部分和网络的部分隔离开来。