RNN:循环神经网络
文章目录语言模型计算规则n-gram循环神经网络实例实现
语言模型
NLP中需要处理的最常见的数据就是文本数据,语言模型就是将一段自然语言文本看作一段离散的时间序列,假如有一段长度为TTT的文本分词后为:w1,w2,...wTw_1,w_2,...w_Tw1,w2,...wT,那么就看作是在TTT时间步内(time step)产生了TTT个词,每步产生一个,而语言模型的就是去计算以该序列产生这TTT个词的概率:
P(w1,w2,....wT)
P(w_1,w_2,....w_T)
P(w1,w2,
原创
2020-08-11 02:23:01 ·
199 阅读 ·
0 评论