![](https://img-blog.csdnimg.cn/20201014180756919.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
自然语言理解
文章平均质量分 87
莫彩
首先是一个人,然后是一个程序员
展开
-
形式语言与自动机基础
这个过程完成之后可以把所有的状态对标记为可区分或不可区分,由于不可区分是一种等价关系,具有传递性,所以不可区分关系可以完成对状态的划分。文法 G 的不含非终结符的句子形式称为 G 生成的句子。由文法 G 生成的语言,记作 L(G),指 G 生成的所有句子的集合。若 G 是一个正则文法, 则存在一个有限自动机nfa,使得:T(M) = L(G)。,这里的最小指的是它是所有接受L(M)的dfa中状态数最少的。定理:设L是正则语言,那么总存在正则表达式r使得L=L®。一些特殊类型的符号串为文法 G=(N,原创 2022-10-07 11:17:29 · 706 阅读 · 0 评论 -
大学食堂之HMM模型(二)——Viterbi算法
第二个问题:Viterbi算法土方法现在来到了第二个问题,我吃了三天食堂都是红烧肉,我想知道这三天的大厨最有可能是谁,怎么办?直观的思路还是使用枚举法(没办法啊。。。我总是想出这么简单naive的小白算法)。但是前面已经讨论,这种算法无论是从效率上还是逼格上都太低,因此我们考虑其他的方法。还算好但是不常用的方法我们上一篇文章提到了我们可以用前向变量和后向变量搭配使用求解t时刻内部变量是SiS_i且输原创 2017-03-29 18:16:15 · 490 阅读 · 0 评论 -
大学食堂之HMM模型(三)——Baum-Walch算法
参数问题理论知识失败的实现参数问题(自己挖的坑,跪着也要写完!(╯‵□′)╯︵┻━┻)理论知识前面说了HMM的解码和评估,但是这都是建立在我们有了HMM的正确参数的前提条件下。然而如果我们真的想解决实际问题,比如动作识别,语音识别等问题时,很难有最优的参数用来预设值。如果我们有先验知识,可以在初始化的时候使参数向最优值靠近一些,如果没有的时候,甚至我们只能用将概率1均分来赋初值。那么这种时候怎么原创 2017-04-12 09:59:13 · 1620 阅读 · 1 评论 -
学习循环神经网络
RNN如果训练普通神经网络是对函数的优化,那么训练循环网络就是对程序的优化。简介从多层网络出发到循环网络,我们需要利用上世纪 80 年代机器学习和统计模型早期思想的优点:在模型的不同部分共享参数。参数共享使得模型能够扩展到不同形式的样本(这里指不同长度的样本)并进行泛化。如果我们在每个时间点都有一个单独的参数,我们不但不能泛化到训练时没有见过序列长度,也不能在时间上共享不同序列长度和不同...原创 2019-05-11 15:18:08 · 555 阅读 · 0 评论