文档余弦相似度

 (1)使用TF-IDF算法,找出两篇文章的关键词;
 (2)每篇文章各取出若干个关键词(比如20个),合并成一个集合,计算每篇文章对于这个集合中的词的词频(为了避免文章长度的差异,可以使用相对词频);
 (3)生成两篇文章各自的词频向量;
 (4)计算两个向量的余弦相似度,值越大就表示越相似。

在 Python 中,可以使用 scikit-learn 库来计算文本之间的余弦相似度。具体步骤如下: 1. 将文本转化为向量表示。可以使用词袋模型或 TF-IDF 模型来进行向量化。scikit-learn 提供了 CountVectorizer 和 TfidfVectorizer 来实现这一步骤。 ```python from sklearn.feature_extraction.text import CountVectorizer, TfidfVectorizer # 初始化 CountVectorizer 或 TfidfVectorizer 对象,设置参数 vectorizer = CountVectorizer() # vectorizer = TfidfVectorizer() # 将文本转化为向量表示 vector = vectorizer.fit_transform(text_list) ``` 2. 计算余弦相似度。可以使用 cosine_similarity 函数来计算余弦相似度。该函数输入为两个向量,输出为它们之间的余弦相似度。 ```python from sklearn.metrics.pairwise import cosine_similarity # 计算余弦相似度 similarity_matrix = cosine_similarity(vector) ``` 完整代码示例: ```python from sklearn.feature_extraction.text import CountVectorizer from sklearn.metrics.pairwise import cosine_similarity # 定义文本列表 text_list = ['This is the first document.', 'This is the second document.', 'And this is the third one.', 'Is this the first document?'] # 初始化 CountVectorizer 对象,设置参数 vectorizer = CountVectorizer() # 将文本转化为向量表示 vector = vectorizer.fit_transform(text_list) # 计算余弦相似度 similarity_matrix = cosine_similarity(vector) print(similarity_matrix) ``` 输出结果: ``` [[1. 0.66666667 0.3380617 0.91287093] [0.66666667 1. 0.25819889 0.66666667] [0.3380617 0.25819889 1. 0.3380617 ] [0.91287093 0.66666667 0.3380617 1. ]] ``` 其中,similarity_matrix[i][j] 表示第 i 个文本和第 j 个文本之间的余弦相似度
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值