机器学习
MichaelYnag
自然语言处理,机器学习,深度学习,大数据
展开
-
条件随机场随记1
条件随机场看成是一个无向图模型或马尔可夫随机场 这时我们称(X,Y)为条件随机场这个概念中有几点需要引起注意的地方。 (1)CRF 是一个无向图模型,这是有区别HMM的一个模型 (2) Y 服从马尔科夫属性。讲条件随机场会引入一个势函数的概念。比如李航《统计学习方法》。 为什么CRF会引入势函数? 因为尽管在给定每个节点的条件下,分配给该节点一个条件概率是可能的原创 2017-09-05 17:02:51 · 467 阅读 · 0 评论 -
算法学习笔记梳理 一
一、生成模型与判别模型监督学习的目的就是学习一个模型:监督学习1 联合概率分布 假设输入与输出的随机变量X和Y遵循联合概率分布P(X,Y) P(X,Y)为分布函数或分布密度函数 对于学习系统来说,联合概率分布是未知的, 训练数据和测试数据被看作是依联合概率分布P(X,Y)独立同分布产生的。(X,Y)相互独立并且分布相同2. 假设空间...原创 2019-02-28 13:55:28 · 267 阅读 · 0 评论 -
熵与信息增益随记
最近在一些地方用到了最大熵和信息增益的概念,所以回过头来重新复习了一下具体的概念。熵与信息增益在决策树算法中,决定特征优先级时,需要用到熵的概念,先挖个坑1信息量信息量是用来衡量一个事件的不确定性的;一个事件发生的概率越大,不确定性越小,则它所携带的信息量就越小。2 熵熵是用来衡量一个系统的混乱程度的,代表一个系统中信息量的总和;信息量总和越大,表明这个系统不确定性就越大。信息量用来衡量一个事件的不原创 2017-11-01 10:48:15 · 428 阅读 · 0 评论 -
机器学习随记1-逻辑回归(Logistic Regression)-1
刚参加完校招,虽然社招经历过无数次了,但是作为校招算法面试官我还是第一次。我承认作为面试官对某些算法的面试是有偏好的。譬如说我就喜欢问SVM相关的问题,估计可能是以前在看这个算法时受到的刺激比较大。^_^ 经过了校招发现大家对算法的掌握程度还是不一样的,有些人对某个算法问题的掌握还是比较深入的。比如SVM,为什么叫支持向量机,什么是对偶问题求解,KKT算法等等。后来跟同行的面试官交流,他说:“机器原创 2017-10-10 17:35:14 · 382 阅读 · 0 评论 -
花书阅读随记1
花书第一部分是一些基本概念,但是我觉得这些概念都是比较重要的一些概念。 下面对一些概念进行笔记: 第一部分 线性代数 特征值与特征向量 特征向量的代数含义是:将矩阵乘法转换为数乘操作; 特征向量的几何含义是:特征向量通过方阵A变换只进行伸缩,而保持特征向量的方向不变。特征值表示的是这个特征到底有多重要,类似原创 2017-09-21 17:19:58 · 322 阅读 · 0 评论