本文介绍了机器学习中的数据预处理方法，包括数据规范化、类别平衡化、连续值离散化、缺失值处理、哑言编码、正则化和数据降维。数据预处理对于提高模型精度、稳定性和收敛速度至关重要。文章详细讲解了最值归一化、Z-Score规范化、阈值移动、欠采样与过采样、连续值离散化策略、L1和L2正则化以及PCA降维的原理和应用场景。
目录
0 写在前面
机器学习强基计划聚焦深度和广度，加深对机器学习模型的理解与应用。“深”在详细推导算法模型背后的数学原理；“广”在分析多个机器学习模型：决策树、支持向量机、贝叶斯与马尔科夫决策、强化学习等。强基计划实现从理论到实践的全面覆盖，由本人亲自从底层编写、测试与文章配套的各个经典算法，不依赖于现有库，可以大大加深对算法的理解。
1 数据规范化
量纲，指将一个物理导出量用若干基本量的乘方之积表示出来的表达式。数据的比较需要关注两点——绝对数值和量纲，而特征间因为量纲的存在导致无法直接通过绝对数值比较大小，也就无法判断特征间的重要性。例如若某个特征的方差比其他特征大几个数量级，那么它就会在学习算法中占据主导位置而弱化了其他特征，甚至导致模型无法收敛。
无量纲化Nondimensionalization)的数据预处理方式可以让特征间拥有相同权重——从绝对数值比较转换为相对数值比较，不再受量纲影响，从而提高模型精度、稳定性，加快收敛速度。无量纲化的主要方式是
订阅专栏 解锁全文
1518
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
