本文深入探讨了特征选择的重要性，从发散性和相关性两方面评估特征价值，并介绍了三种特征选择方法：过滤法(Filter)、包装法(Wrappe)和嵌入法(Embedded)，为机器学习模型提供高效的数据预处理策略。
特征选择
从两个方面考虑来选择特征
- 特征是否发散：如果一个特征不发散，例如方差接近于0，也就是说样本在这个特征上基本上没有差异，这个特征对于样本的区分并没有什么用
- 特征与目标的相关性： 优选选择与目标相关性高的特征
根据特征选择的形式又可以将特征选择方法分为3种：
- Filter：过滤法，按照发散性或者相关性对各个特征进行评分，设定阈值或者待选择阈值的个数，选择特征。
- **Wrapper：**包装法，根据目标函数（通常是预测效果评分），每次选择若干特征，或者排除若干特征。
- Embedded：嵌入法，先使用某些机器学习的算法和模型进行训练，得到各个特征的权值系数，根据系数从大到小选择特征
扫一扫
249
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
