MIC：最大信息系数

目录

1. 概念

1.1 MIC

1.2 互信息

2. MIC的优点

3. 算法原理

3.1  MIC公式原理

3.2 MIC计算步骤

（1）计算最大互信息值

（2）对最大的互信息值进行归一化

（3）选择不同尺度下互信息的最大值作为MIC值

4. 代码实现

6. 其他方法

---

1. 概念

1.1 MIC

         MIC，即（Maximal Information Coefficient）最大信息系数，属于Maximal Information-based Nonparametric Exploration (MINE) 最大的基于信息的非参数性探索，用于衡量两个变量X和Y之间的关联程度，线性或非线性的强度，常用于机器学习的特征选择。

        MIC相较于Mutual Information（MI）互信息而言有更高的准确度，是一种优秀的数据关联性的计算方式。

1.2 互信息

       互信息（Mutual Information）是信息论里一种有用的信息度量，它可以看成是一个随机变量中包含的关于另一个随机变量的信息量，或者说是一个随机变量由于已知另一个随机变量而减少的不肯定性。这个已经是机器学习中老生常谈的内容了，如果想不起来，请参考百度百科-互信息。

2. MIC的优点

        算法对比表：