MRMR是一种滤波式特征选择算法,能最大化特征和目标间的相关性,减少相关特征之间冗余。该算法将每个特征和输出类别作为单独变量,使用互信息 I(a,b)衡量两个变量间的相似度,该表达式为:
参考文献
[1] Peng Hanchuan , Long Fuhui, Ding Chris. Feature selection based on mutual information: criteria of max-dependency, max-relevance, and min-redundancy.[J]. IEEE transactions on pattern analysis and machine intelligence,2005,27(8):