![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
NLP
Vincent-Yuan
这个作者很懒,什么都没留下…
展开
-
srilm语言模型中的平滑算法——Good-Turing平滑算法
最近使用使用python自己写的语言模型和srilm得到的语言模型做对比,srilm里还是有很多trick的,尤其是平滑算法,集成了很多数据平滑算法,研究的时候,记录一下。在srilm中有回退和差值两类平滑算法,简单来说,回退就是将出现过的ngram的概率打个折扣,将那部分折扣下来的概率均摊为未出现的ngram作为他们的概率,而插值呢,一样是对出现过的ngram打折扣,但是折扣下来的概率值均摊...原创 2018-08-10 18:10:10 · 8388 阅读 · 2 评论 -
自然语言处理之数据平滑方法
转载自:https://blog.csdn.net/fuermolei/article/details/81353746 在自然语言处理中,经常要计算单词序列(句子)出现的概率估计。但是,算法训练的时候,预料库中不可能包含所有可能出现的序列,因此为了防止对训练样本中为出现...转载 2018-08-10 18:26:08 · 2870 阅读 · 0 评论 -
HMM与维特比算法
最近看对话生成的beam-search,发现这就是特殊的维特比算法,所以又把HMM与维特比算法复习一遍。原创 2018-12-02 18:48:48 · 368 阅读 · 0 评论 -
word2vec原理
原创 2018-11-28 10:49:27 · 144 阅读 · 0 评论 -
Python实现HMM的前向-后向算法和维特比算法
HMM的前向算法和维特比算法已将在上一个博客讲过了,这节给出python的实现,例子是以李航老师《统计学习方法》上的算法和例题进行实现。import numpy as npclass HMM: def forward(self,Q,V,A,B,O,PI): """ 前向算法 Q:状态序列 V:观测集合 ...原创 2018-12-03 15:48:55 · 3115 阅读 · 4 评论 -
浅析beam search算法
原创 2019-01-02 14:11:48 · 931 阅读 · 0 评论 -
《Neural Response Generation with Dynamic Vocabularies》论文阅读
原创 2019-01-02 14:24:59 · 490 阅读 · 0 评论