- 博客(8)
- 收藏
- 关注
RSS订阅原创 模式识别系列（七）反向传播神经网络
目录1.反向传播神经网络的结构1.1神经网络概述1.2BP神经网络结构2.反向传播算法推导2.1什么是反向传播2.2BPNet反向传播推导1.反向传播神经网络的结构1.1神经网络概述 神经网络自GPU蓬勃发展以来，已经渐渐地家喻户晓，门口买烧饼的大爷都知道人工智能下棋很厉害。神经网络被广泛应用于各种领域，图像识别，语音处理，三维重建，脑电处理等等，细化出了无数的模型，比如著名的YOLO，INCEPTION，RNN，RESNET等等，把这些全部讲完是不可能的。但是万变不离其中，神经网络就像是堆积木，固
2021-07-25 13:29:09
664
原创 模式识别系列（六）多分类策略
目录1.多分类问题引入2.1vN策略3.1v1策略4.Softmax4.1概念与方法4.2softmax梯度传播1.多分类问题引入 在此篇之前，如果大家还有印象，我们会发现 处理的都是二分类问题，也就是标签y的取值只能是0,1或者-1,1。不论是我们的pla，线性回归，logistic回归，还是svm，最后都是找到一个由权重构成的分类面，它自身的限制导致了这些所有的算法只能处理二分类问题。但是我们在实际运用中，往往处理的不仅仅是“是或不是”的问题，很多时候是“是什么”的问题，那么这就是多分类问题，比如
2021-07-23 13:52:02
1182
原创 模式识别系列（五）对偶支撑向量机和核向量机
目录1.对偶支撑向量机1.1对偶问题1.1.1线性规划对偶问题1.1.2拉格朗日对偶问题1.2概念提出1.3公式推导2.核向量机2.1问题提出2.2核函数和核矩阵2.3核向量机1.对偶支撑向量机1.1对偶问题1.1.1线性规划对偶问题 在提出对偶支撑向量机之前，先得有对偶的概念。对偶就是对同一个问题，从不同的角度描述。举一个简单的例子，当周长一定，面积最大的矩形是正方形，而当面积一定，周长最小的矩形是正方形，这就是两个对偶的表述。再举一个例子，一个工厂可以选择出租设备或者生产产品，如果站在他的角度
2021-07-21 22:35:09
299
1
原创 模式识别系列（四）线性支撑向量机
目录1.SVM的问题提出2.SVM推导与证明3.线性SVM求解优化方法1.SVM的问题提出 终于讲到大名鼎鼎的支撑向量机（support vector machine）SVM。初见此名，相信大家跟我一样都是满脸的黑人问号，什么是支撑向量，什么又是向量机？切莫着急，听我一一道来。 之前我们在讲线性回归和PLA的时候，着眼点都在能不能正确分类样本，对一个线性可分的样本，我们能找到一个分类面，使所有的样本都正确分类。但是，由于对于线性可分的样本，正确率肯定是100%，我们无法对分类面进行评价，无法知道到
2021-07-18 11:19:41
182
原创 模式识别系列（三）logistic回归
目录1.logistic回归问题2.logistic回归损失函数2.1信息熵简介2.2交叉熵损失函数2.3损失函数对比3.logistic回归算法1.logistic回归问题 logistic回归可以说是神经网络模型重要的基元，sigmoid函数在神经网络模型中是常用的一种激活函数。logistic回归起源于概率，我们在日常生活中下判断的时候，说这事儿有八成机会，就是80%的可能性。学过概率论都知道，概率被划到了0-1这个区间，0表示不可能发生，1表示必然发生。在上一篇的线性回归中，就很难表示这样的概
2021-07-16 13:01:07
308
原创 模式识别系列（二）线性回归
目录1.线性回归1.1什么是线性回归1.2线性回归的最优解2.梯度下降法2.1什么是梯度下降法2.2线性回归梯度下降法2.3随机梯度下降法(SGD)2.4Mini-Batch1.线性回归1.1什么是线性回归 线性回归的定义准确来说使用线性的回归方程，利用最小二乘的方式，对一元或多元变量的函数进行拟合。所谓回归，实际上就是拟合一个函数。在实际生活中，线性回归被应用于值预测和分类问题。举一个简单的例子，大部分出租车有个起步价，随着公里数变多，费用变高，那么做出租车要花多少钱呢？很简单，费用yyy可以写成
2021-07-14 12:46:37
670
1
原创 模式识别系列（一）感知器算法（PLA）
目录写在前头1.感知器算法简介2.Perceptron Learning Algorithm（PLA）2.1权重向量和向量到分类面的距离关系线性可分数据的最优证明不可分数据的优化方式如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入写在前头 本系列博客主要是对我大三这一
2021-07-13 11:27:11
4815
4
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人