文末彩蛋:七月在线干货组最新升级的《2021大厂最新AI面试题 [含答案和解析, 更新到前121题]》免费送!
1.使用Word2vec算法计算得到的词向量之间为什么能够表征词语之间的语义近似关系? 参考答案:
word2vec是一种高效实现word embedding的算法,word2vec模型其实就是一个简单化的神经网络,输入是One-Hot向量,Hidden Layer没有激活函数,也就是线性的单元。Output Layer维度跟Input Layer的维度一样,用的是Softmax回归。word2vec得出的词向量其实就是训练后的一个神经网络的隐层的权重矩阵,经过CBOW或Skip-Gram模型的训练后,此意相近的词语就会获得更为接近的权重,因此可以用向量的距离来衡量词的相似度。
2.在样本量较少的情况下如何扩充样本数量?
参考答案:
-
同义词替换(SR: Synonyms Replace):不考虑stopwords,在句子中随机抽取n个词,然后从同义词词典中(wordnet)随机抽取同义词,并进行替换。
-
随机插入(RI: Randomly Insert):不考虑stopwords,随机抽取一个词,然后在该词的同义词集合中随机选择一个,插入原句子中的随机位置。该过程可以重复n次。
-
随机交换(RS: Randomly Swap):句子中,随机选择两个词,位置交换。该过程可以重复n次。
-
随机删除(RD: Randomly Delete)&#x