共现矩阵
共现矩阵:也称为共词矩阵,能表明两个词之间的关系程度
- 首先假设我们有两句话,如下图所示,通过jieba分词和停用词词表过滤,我们可以得到以下结果:
test = ["E的B的C", "B的C的D"]
- 接着我们可以通过关键词来构建共现矩阵,可以看到,BE同时出现一次,则其权重为1,BC同时出现两次,则其权重为2,以此类推
- 由此可以看出,共现矩阵是一个对角矩阵。
- 共现矩阵的[0][0]为空。
- 共现矩阵的第一行第一列是关键词。
- 对角线全为0。
- 共现矩阵其实是一个对称矩阵。
代码实现
# -*- coding: utf-8 -*-
import networkx as nx
import matplotlib.pyplot as plt
import jieba
import numpy as np
test = ["E的B的C", "B的C的D"]
stopwords = [line.strip() for line in
open('stopwords_unduplicated.txt', encoding='UTF-8').readlines()] # 停用词词表
cut_text1 = jieba.cut(test[0].replace(' ', ''))
cut_text2 = jieba.cut(test[1].replace(' ', ''))
results1 = []
for word in cut_text1:
if word not in stopwords:
if word != '\t':
results1.append(word)
print("result1 is :", results1)
results2 = []
for word in cut_text2:
if word not