TF-IDF
TF-IDF（Term Frequency -Inverse Document Frequency）是有TF和IDF两部分组成，TF指的词频，IDF指的是逆文本频率，用来反映一个词在文本中的出现频率，最后TF-IDF是有两部分乘积表示；
文本矩阵化
文本矩阵化，使用词袋模型，以TF-IDF特征值为权重，可以考虑使用Python中的TfidTransformer库
互信息
互信息是衡量两个随机变量的相关性，也就是一个随机变量中包含的关于另一个随机变量的信息量，所谓的随机变量，即随机试验结果的量的表示，可以简单理解为按照一个概率分布进行取值的变量，比如随机抽查的一个人的身高就是一个随机变量。 可以看出，互信息其实就是对X和Y的所有可能的取值情况的点互信息PMI的加权和。
I
(
X
;
Y
)
=
∑
x
∈
X
∑
y
∈
Y
p
(
x
,
y
)
log
p
(
x
,
y
)
p
(
x
)
p
(
y
)
I(X ; Y)=\sum_{x \in X} \sum_{y \in Y} p(x, y) \log \frac{p(x, y)}{p(x) p(y)}
I(X;Y)=x∈X∑y∈Y∑p(x,y)logp(x)p(y)p(x,y)
使用第二步生成的特征矩阵，利用互信息进行特征筛选
from sklearn import metrics as mr
mr.mutual_info_score(tfidf,x)
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
