从Word Embedding到Bert模型—自然语言处理中的预训练技术发展史(简单记忆)
1.Word Embedding什么是语言模型?为了能够量化地衡量哪个句子更像一句人话,可以设计如上图所示函数,核心函数P的思想是根据句子里面前面的一系列前导单词预测后面跟哪个单词的概率大小(理论上除了上文之外,也可以引入单词的下文联合起来预测单词出现概率)。句子里面每个单词都有个根据上文预测自己的过程,把所有这些单词的产生概率乘起来,数值越大代表这越像一句人话。CBOW(多对一)...
原创
2019-04-09 14:38:28 ·
834 阅读 ·
0 评论