【机器学习知识】在文本分类中常用的特征选择算法

        系列说明：最近在刷牛客网的机器学习系列的题目，希望可以通过记录知识点来让自己查缺补漏，后续会持续更新哦~~~

        需要的友友可以持续关注这个系列，一起进步，一起学习呀！！

      （如果觉得不错的话，欢迎点赞、收藏！当然，如果有总结不到位的地方，或者有什么意见和建议，都希望在评论区进行指导和留下评论哦~~~~~这是我最大的动力！）

---

在文本分类中，有如下几种种常用特征选择算法：

1. TF（Term Frequency）词频
   计算每个词在文本中出现的频率，常用于基础词袋模型的文本分类任务。
   
   可以通过计算每一个词的TF值（词频），选择词频较高的词作为特征词
    
2. IDF（Inverse Document Frequency）逆文档频率
   这个方法可以衡量一个词对于整个语料库的重要性。
   
   计算方式：对于语料库中的每个词，计算其在不同文档中出现的次数，并将其取倒数。
   这个方法常与TF一起使用，通过TF-IDF值选取关键词作为类别特征。
    
3. DF（Document Frequency） 文档频率

   DF:统计特征词出现的文档数量，用来衡量某个特征词的重要性
    

4. MI（Mutual Information）互信息法 
   互信息法用于评估