把训练好的词向量模型可视化

意思相近的词语,在向量空间中的距离应该越近。对于一个高维词向量,我们无法直观地观察两个词的距离,于是我们就需要把词向量降维处理,变成二维的,就可以画出来了。

输入是一个训练好的词向量模型。输出是一张图片,把每个词都标记在上面。

from gensim.models import Word2Vec
from random import sample
from pylab import mpl
model = Word2Vec.load('./word_vectors_100')
#载入模型,这个模型中的词向量是100维的,模型文件放在当前目录
words = list(model.wv.vocab)
#把所有词向量的词语装到列表中
labels = sample(words, 1000) #随机取出1000个词语用来画图
tokens = model[labels] #得到1000个词语的词向量

tsne_model = TSNE(perplexity=40, n_components=2, init='pca', n_iter=2500, random_state=23)
new_values = tsne_model.fit_transform(tokens)
#降维处理
mpl.rcParams['font.sans-serif'] = ['SimHei'] #中文字体
mpl.rcParams['axes.unicode_minus'] = False #防止负号出现异常显示
x = []
y = []
for value in new_values:
    x.append(value[0])
    y.append(value[1])

plt.figure(figsize=(16, 16)) #定义画布大小
for i in range(len(x)):
    plt.scatter(x[i],y[i])
    plt.annotate(labels[i],
                 xy=(x[i], y[i]),
                 xytext=(5, 2),
                 textcoords='offset points',
                 ha='right',
                 va='bottom')
plt.show()

1000个词向量,画图需要5分钟

  • 2
    点赞
  • 18
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值