关于TF-IDF算法的关键词抽取

TF-IDF(term frequency–inverse document frequency)关键词提取算法:

在信息提取的应用场景之中,对文本中的重要词进行分析,将原文本进行停用词处理;
TF-IDF 该算法用一种统计学的方法来衡量一个词语在文本中的重要程度,常被用于信息提取,文本挖掘中,该算法的核心是计算一个文本中某个词语的tf值和idf值。

1.TF词频(term frequency )衡量一个词语在文档中出现的频率
这里写图片描述

2.IDF反文档频率(inverse document frequency )某一个给定词语在文档集合中出现的次数与文档总数的商

这里写图片描述
从表达式可以看出:当前词的文档个数越多,IDF的值越小,说明该词不重要;反之,该词越重要;
IDF更像是给TF赋的一个权重;

3.TF-IDF 用来抽取文章关键词的方法先计算每个词在文章中的词频(TF),计算词的权重(IDF),最后将TF、IDF相乘在排序,得到top N个关键词,也就是文章的关键词

TF-IDF计算公式:TF-IDF=TF*IDF

4.计算出文章的关键词后,可以用余弦定理来计算两篇文章的相似度

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值