机器学习
上了年纪也要写代码
主要研究计算机视觉
展开
-
马尔科夫随机场做图像分割
引言本文尽量避免了算法本身的一些复杂公式,结合自己的理解展示了如何实现马尔科夫随机场并将其应用到图像分割问题上,只要懂贝叶斯公式,懂得正态分布,就可以看懂本文的原理介绍。首先用一句话概括:根据观测到的图像(各点像素值X),我们要求得对应像素的类别(Y),即求最大后验概率P(Y|X)有些伙伴可能会有些疑惑,只知道像素值为什么可以求类别呢?瞎猜吗?当然不是,这里面包含了很严谨的数学原理,就是应用概率进行推测,下面将慢慢给大家介绍。初始条件1.观测一副图像,可以知道图像的特征图(fij表示对应原创 2020-05-15 10:59:53 · 2695 阅读 · 2 评论 -
支持向量机数学原理推导
将支持向量机转换为数学模型,推导其计算过程,其中主要的步骤概括如下:1.分类超平面的概念2.间隔和几何间隔之间的区分3.求解目标为,正负例中距离分类超平面最近的几何距离最大化,使得分类最可靠,对噪声的适应性更强,求解过程中,往往固定间隔为1,求几何间隔1/||W||的最大值,即最小化||W|。4.要求所有样品与分类超平面的间隔大于设定好的固定间隔(即为1),形成最小化||W||时的...原创 2019-12-25 09:53:31 · 340 阅读 · 0 评论 -
怎么避免过拟合(正则化,droupout,bagging等原理及特点介绍)
过拟合几乎可以说是每个深度学习网络的噩梦,当模型深度较大时,若不加以处理,几乎都会碰上。出现过拟合的特点是:看起来效果很好(在训练集上),而实际上已经废了(在测试集或验证集上)。因此如何在训练时避免过拟合,是每一个炼丹师的必备技能。而避免过拟合主要有两类方法:1)扩充数据,2)修改网络。数据扩充内容比较简单,在文末总结了数据扩充的方案,详细的可以再自己搜一下看看。本文主要总结一些修改网络的方法。...原创 2019-12-03 11:35:29 · 1845 阅读 · 0 评论 -
各种梯度下降算法(SGB,Momentum,Adagrad,Adam)简介及特点
上一篇文章介绍了什么是误差反向传播和梯度下降:https://blog.csdn.net/qq_38232171/article/details/103288345本文将对现有的一些梯度下降的优化算法进行总结和对比。BGD:上文中的公式其实算是BGD,就是利用了全部数据进行梯度计算,缺点是计算量大,且不允许在线更新模型,优点是考虑了所有数据,拟合过程稳定。SGD:随机梯度下降,计算...原创 2019-11-29 09:31:45 · 2155 阅读 · 0 评论 -
误差反向传播(BP)及梯度下降算法详解
摘要在机器学习算法中,误差反向传播和梯度下降是模型收敛的关键技术,作者将以单隐层模型为例说明误差反向传播和梯度下降的工作原理。各种算法的单隐层模型结构大同小异正向传播假设:主要模型参数有3个,输入层到隐含层的权重W,隐含层的偏置B,隐含层到输出层的权重beta,为了计算方便引入一个中间参数H表示隐含层的输出, 式(1)其中G(x)为激活函数,为模型提供非线性...原创 2019-11-28 14:55:26 · 5566 阅读 · 0 评论 -
极限学习机(ELM)算法原理及C++代码实现
从事机器学习研究两年多了,第一个用的算法就是极限学习机,CSDN算是我的领路人,在此感谢一下CSDN上分享知识的大神们,即将毕业,所学颇杂,想在此开始总结一下,顺便也为即将入坑的新手们做一些贡献。第一篇博文,或有许多不足之处,请各路大神指教,尽量做到按以下步骤能够理解并实现极限学习机算法。算法介绍极限学习机是一种单隐含层的前馈神经网络,其效率高,正确率高,泛化性能强,从初学该算法至今...原创 2019-11-27 16:45:16 · 4105 阅读 · 20 评论