机器学习
文章平均质量分 73
守望者tt
NLP小小白,转行中,希望从事自然语言处理,人工智能相关研究工作
展开
-
从VC维角度理解正则化与偏差方差权衡
从VC维角度理解正则化与偏差方差权衡 正则化与偏差方差权衡是机器学习中的两个核心问题。本文尝试从VC维的角度阐释正则化与偏差方差权衡,以便更好的应用机器学习的方法。 本文主要包括以下四方面内容: 1、机器学习的框架 2、VC维理论(不做严格的证明,只说明VC维的概念,以及说明为什么VC维 可以作为模型复杂度的度量,以及论述偏差-方差权衡) 3、从VC维的角度理解正则化 4、深度学习与V...原创 2018-04-18 19:15:10 · 1870 阅读 · 1 评论 -
条件随机场
条件随机场 条件随机场(conditional random field,CRF)是给定一组随机变量条件下另一组输出随机变量的条件概率分布模型。条件随机场可以用于不同的预测问题,本文主要参考《统计学习方法》条件随机场,主要说明用于标注问题的线性链(linear chain)条件随机场。 概率无向图模型 概率无向图模型(probabilistic undirected graphical ...原创 2018-04-18 19:19:25 · 322 阅读 · 0 评论 -
隐马尔科夫模型
隐马尔科夫模型 隐马尔科夫模型(Hidden Markov Model(HMM))是可用于标注问题的统计学习模型,描述由隐藏的马尔科夫链随机生成观察序列的过程,属于生成模型,可以应用于语音识别,词性标注,音字转换,概率问题发等自然语言处理的各个应用。 本文的总结主要根据李航《统计机器学习方法》,隐马尔科夫模型内容,但对概率计算问题,做了更清楚的补充,从而使证明更易懂。而且对维特比算法做了更清晰...原创 2018-04-18 19:21:28 · 277 阅读 · 0 评论 -
EM 算法
EM 算法 如果概率模型的变量都是观测变量,那么给定数据,可以直接使用极大似然估计法。但当模型含有隐含变量时,不能简单的进行极大似然估计,需要EM算法。因此EM算法是对含有隐含变量的概率模型参数进行极大似然估计。 为了说明EM算法,首先介绍Jession不等式。 Jession inequality 如果 f 为凸函数f′′(x)≥0f″(x)≥0f''(x)\geq 0,那么f(E(x...原创 2018-04-18 19:22:44 · 231 阅读 · 0 评论