表征能力:对于某个特定问题,特征对于问题本质的反映能力,决断能力
对于不同的问题,同一个数据集,同一个特征的表征能力不同,即最优表征(特征组合)只针对于同一个问题。
例如:给定包含人体细胞,血型,组织,基因,器官等特征的数据集
对于问题A:区分不同的人,毋庸置疑,基因的表征能力很强,血型的表征能力很弱
对于问题B:人的健康等级分类,则各个属性都有较强的表征
特征选择
1.表征学习:自动的从数据集中提取出最能反应问题本质的特征
- 深度学习:常见的模型如CNN/RNN/DBN等
- 无监督学习算法:如主成分分析(PCA)及自编码器(autoencoder)通过对数据转化而使得输入数据更有意义
- 某些树模型:可以自动的学习到数据中的特征并同时作出预测
2.特征工程:人工选择特征
- 相关系数
- 方差
参考资料
「特征工程」与「表示学习」