机器学习
心静菩提现
这个作者很懒,什么都没留下…
展开
-
CRF++学习及总结
CRF++学习及总结CRF++原理训练文件&测试文件格式模板文件CRF++使用使用命令输出内容模型格式文件头标签模板特征函数特征函数权值参考文献CRF++原理训练文件&测试文件格式文件中每一行中的每一列通过空格或者制表符\t分割,每一行为一个token,一个token对应一个词,每行中,除最后一列作为标注外,其他列作为特征。格式如下所示。中 B国 E发 O展 O历 ...原创 2020-04-12 00:26:35 · 391 阅读 · 0 评论 -
LSTM学习笔记
LSTM学习笔记LSTM简介1.LSTM简介LSTM分析LSTM分析多层LSTM参考文献LSTM简介1.LSTM简介LSTM(Long Short-Term Memory)网络是循环神经网络的一个变体,是一种时间序列循环神经网络,是为了解决简单循环神经网络存在的长期依赖问题而设计的。LSTM分析LSTM分析LSTM结构结构如下图所示。LSTM中的门控机制:LSTM网络引入门控机...原创 2020-03-14 16:31:35 · 406 阅读 · 0 评论 -
条件随机场详细推导
条件随机场条件随机场简介1.条件随机场简介条件随机场举例2.条件随机场举例条件随机场三个基本问题及推导3.条件随机场三个基本问题及推导参考文献条件随机场简介1.条件随机场简介马尔可夫随机场:设有联合概率分布P(Y),由无向图G=(V,E)表示,在图G中,结点表示随机变量,边表示随机变量之间的依赖关系。如果联合概率分布P(Y)满足成对、局部或全局马尔可夫性,就称此联合概率分布为概率无向图模型,...原创 2020-02-23 23:34:07 · 792 阅读 · 0 评论 -
隐马尔可夫模型详细推导
隐马尔可夫模型详细推导隐马尔可夫模型简介1.隐马尔可夫模型简介隐马尔可夫模型举例2.隐马尔可夫模型举例隐马尔可夫三个基本问题及推导3.隐马尔可夫三个基本问题推导隐马尔可夫模型应用领域4.隐马尔可夫模型应用参考文献隐马尔可夫模型简介1.隐马尔可夫模型简介模型是关于时序的概率模型,描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列,再由各个状态生成一个观测而产生观测随机序列的过程。隐马尔...原创 2020-02-23 14:07:14 · 939 阅读 · 0 评论 -
EM算法详细推导
EM算法详细推导EM算法简介1.EM算法简介EM算法推导2.EM算法推导EM算法举例3.EM算法举例EM算法收敛性证明4.EM算法收敛性证明一点小思考5.一点小思考参考文献EM算法简介1.EM算法简介概率模型有时既含有观测变量,又含有隐变量或潜在变量。如果概率模型的变量都是观测变量,那么给定观测数据,直接根据极大似然估计求解模型参数。EM算法是一种迭代算法,用于含有隐变量的概率模型参数的极大...原创 2020-02-23 13:44:00 · 1204 阅读 · 0 评论 -
西瓜书第六章总结
西瓜书第六章总结SVM介绍线性SVM算法的数学建模参考SVM介绍SVM的全称是Support Vector Machine,即支持向量机,主要用于解决模式识别领域中的数据分类问题,属于有监督学习算法的一种.基本思想是找到一个最大间隔超平面。线性SVM算法的数学建模一个最优化问题通常有两个最基本的因素:1)目标函数,也就是你希望什么东西的什么指标达到最好;2)优化对象,你期望通过改变...原创 2019-05-30 12:47:07 · 269 阅读 · 0 评论 -
决策树算法
文章目录1.信息论基础2.决策树的不同分类算法(ID3算法,C4.5,CART分类树)的原理及应用场景3.回归树原理4.决策树防止过拟合手段5.模型评估sklearn参数详解,Python绘制决策树1.信息论基础1)熵:在信息论中,熵是接收的每条消息中包含的信息的平均量,又被称为信息熵、信源熵、平均自信息量。这里,消息代表来自分布或数据流中的事件、样本或特征。来自信源的另一个特征是样本的概率...原创 2019-03-05 21:04:46 · 335 阅读 · 0 评论 -
逻辑回归算法梳理
逻辑回归算法梳理逻辑回归的原理逻辑回归与线性回归的区别与联系逻辑回归损失函数的推导及优化正则化与模型评估指标逻辑回归优缺点样本不均衡问题解决办法sklearn参数逻辑回归的原理当我们希望线性模型的预测值逼近真实标记时,就得到了线性回归模型,而当我们使用线性模型去逼近真实标记的衍生物时,比如我们认为真实标记是在指数尺度上的变化,那么我们可以将输出标记的对数作为线性模型要逼近的目标,即,变换...原创 2019-03-02 15:50:46 · 248 阅读 · 0 评论 -
线性回归算法梳理
这里写自定义目录标题机器学习的一些概念有监督学习无监督学习泛化能力过拟合和欠拟合方差和偏差线性回归的原理线性回归损失函数、代价函数、目标函数优化方法线性回归的评估指标sklearn参数详解机器学习的一些概念根据训练数据是否拥有标记信息,学习任务可大致分为两大类:有监督学习和无监督学习。有监督学习有监督学习:从标签化训练数据集中推断出函数的机器学习任务。无监督学习无监督学习:根据类...原创 2019-03-01 13:12:33 · 222 阅读 · 0 评论 -
梯度上升法求解Logistic回归
对率函数hθ=1/1+e^-zz=β^T(x;1)P{yi|xi;θ} = (P{yi=1|xi}^yi)*(P{yi=0|xi}*(1-yi))极大似然函数为πP{yi|xi;θ}=π(P{yi=1|xi}^yi)*(P{yi=0|xi}*(1-yi))假定P{yi=1|xi}=hθ(xi),则p{yi=0|xi}=1-hθ(xi)则πP{yi|xi;θ}=π(P{yi=1|xi}^yi)*(P...原创 2018-07-03 21:41:27 · 317 阅读 · 0 评论