基于Python的自然语言处理系列（1）：Word2Vec

会飞的Anthony

于 2024-09-08 00:45:00 发布

阅读量304

点赞数 4

分类专栏：信息系统自然语言处理人工智能文章标签：自然语言处理 word2vec 人工智能

本文链接：https://blog.csdn.net/ljd939952281/article/details/141939921

版权

人工智能同时被 3 个专栏收录

211 篇文章 7 订阅

订阅专栏

信息系统

192 篇文章 2 订阅

订阅专栏

自然语言处理

82 篇文章 3 订阅

订阅专栏

在自然语言处理（NLP）领域，Word2Vec是一种广泛使用的词向量表示方法。它通过将词汇映射到连续的向量空间中，使得计算机可以更好地理解和处理文本数据。本系列的第一篇文章将详细介绍Word2Vec模型的原理、实现方法及应用场景。

1. Word2Vec 原理

Word2Vec模型由Google的Tomas Mikolov等人在2013年提出，主要有两种训练方式：Skip-gram和Continuous Bag of Words (CBOW)。在本篇文章中，我们重点介绍Skip-gram方法。

1.1 Skip-gram 模型

Skip-gram模型的目标是通过给定的中心词预测其上下文词。具体来说，给定一个中心词（例如“apple”），Skip-gram模型尝试预测该中心词周围的上下文词（例如“banana”和“fruit”）。这种方法特别适合于大规模语料库，因为它可以有效地从大规模数据中学习词向量。

1.2 负采样

在训练过程中，为了提高计算效率，Skip-gram模型通常使用负采样技术。负采样通过从词汇表中随机选择一些词作为负样本，来减少计算量。这种方法在训练过程中大大减少了计算复杂度，提高了训练速度。

2. Word2Vec 实现

接下来，我们通过代码示例演示如何使用Python实现Word2Vec模型的Skip-gram方法。

2.1 定义简单数据集

首先，我们定义一个简单的语料库，以帮助理解Word2Vec的基本概念。

import numpy as np
import torch
import torch.nn as nn
import torch.optim as optim
import matplotlib.pyplot as plt

# 定义语料库
corpus = ["apple banana fruit", "banana apple fruit", "banana fruit apple",
          "dog cat animal", "cat animal dog", "cat dog animal"]

corpus = [sent.split(" ") for sent in corpus]
print(corpus)

2.2 数据预处理

我们将语料库中的词汇映射到数字索引，并处理未知词汇。

flatten = lambda l: [item for sublist in l for item in sublist]
vocab = list(set(flatten(corpus)))
print(vocab)

word2index = {w: i for i, w in enumerate(vocab)}
print(word2index)

voc_size = len(vocab)
print(voc_size)

vocab.append('<UNK>')
word2index['<UNK>'] = 0
index2word = {v: k for k, v in word2index.items()}
print(vocab)
print(word2index)

2.3 准备训练数据

我们将数据转换为Skip-gram形式，生成训练数据。

def random_batch(batch_size, word_sequence):
    # 生成Skip-gram数据
    skip_grams = []
    for sent in corpus:
        for i in range(1, len(sent) - 1):
            target = word2index[sent[i]]
            context = [word2index[sent[i - 1]], word2index[sent[i + 1]]]
            for w in context:
                skip_grams.append((target, w))
    return skip_grams