通俗易懂理解——最大相关性最小冗余性(MRMR)

       MRMR是一种滤波式特征选择算法，能最大化特征和目标间的相关性，减少相关特征之间冗余。该算法将每个特征和输出类别作为单独变量，使用互信息 I(a，b)衡量两个变量间的相似度，该表达式为：

 

 

参考文献

[1] Peng Hanchuan , Long Fuhui, Ding Chris. Feature selection based on mutual information: criteria of max-dependency, max-relevance, and min-redundancy.[J]. IEEE transactions on pattern analysis and machine intelligence,2005,27(8):