![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 75
Niclas Wagner
这个作者很懒,什么都没留下…
展开
-
[模式识别] 实验报告——贝叶斯、Fisher线性判别、K近邻、LeNET、PCA变换实验
本资源整合了模式识别课程的五个实验报告,分别为贝叶斯分类器、Fisher线性判别法、K近邻算法、使用PCA变换的方法对ORL人脸数据集进行人脸识别、使用LeNet神经网络进行MINIST手写数字的识别。原创 2022-11-26 18:05:48 · 1561 阅读 · 1 评论 -
[Pytorch] 学习记录(七)MNIST多分类问题
在处理多分类问题的时候会用到一个叫做softmax的分类器,本讲将主要从softmax分类器入手来实现多分类问题。在前一章我们对糖尿病模型进行了二分类,二分类问题中只需要输出一个概率,另外的一个概率通过用1来减即可获得。但多分类需要输出多个概率。本次我们采用MNIST手写数字数据集,首先我们来看一下如果有十个分类那他们的输出该是什么样的。若有十个分类,那这10个概率的输出应该是总和=1且均>0的。但某些情况下,可能会出现P(y=1)=0.8,P(y=2)=0.9 这样的情况,所以当我们求出P(y=原创 2022-02-13 15:45:15 · 1173 阅读 · 3 评论 -
[Pytorch] 学习记录(六)处理多维特征输入
在之前的章节中一直在进行单维的特征输入 ,本节将进行多维特征输入的学习。图1为数据集样例,该数据集是关于糖尿病的数据集。图1 数据集样例我们将进行糖尿病的分类任务,每一行为一个样本Sample,每一列称为一个特征Feature。显然,每个样本拥有8个特征。由于特征的增加,在计算logistic模型的时候就不能再按照先前的一维计算,公式如下所示:公式中,需要将每个x的特征值取出,与ω相乘。在这里我们将xn看作一个向量,就相当于做如下的运算:其与单维的区别在于ω不再只是一个数字,而原创 2022-02-12 17:09:09 · 985 阅读 · 0 评论 -
[Pytorch] 学习记录(五)Logistic(Sigmoid) 回归
本章将开始进行机器学习中的分类问题,虽然名字叫回归,但他是做分类的。分类问题最基本的一个思维方式:比如识别手写数字,模型会将输入的图片进行十个类别的预测,并给出10个概率。从当中选取概率最高的一个作为预测结果,即为多分类。这里我们采用一个经典的数据集——minist,该数据集可从pytorch中下载,代码如下:import torchvisiontrain_set = torchvision.datasets.MNIST(root=’../dataset/mnist',train=FTrue,d原创 2022-02-12 15:22:45 · 1011 阅读 · 0 评论 -
[Pytorch] 学习记录(四)使用Pytorch实现线性回归
在之前的几节里涉及到过简单的线性模型,本章将利用pytorch提供的工具来实现线性回归。我们会介绍诸如Module、构造Loss函数、构造随机梯度下降优化器等。这些东西pytorch都会提供,因此本章的主要作用就是如何利用pytorch提供的工具来帮助我们更方便的实现构建线性模型。首先回顾一下前面讲过的,第一步是要确定Linear Model,再定义损失函数进行优化。在pytorch中进行优化的时候,要用到的是sgd(随机梯度下降),而用sgd核心的步骤是要求出每一个损失函数关于权重的偏导(梯度),这就原创 2022-02-11 09:40:40 · 1054 阅读 · 0 评论 -
[Pytorch] 学习记录(三)反向传播
反向传播是神经网络中非常重要的一个算法,它可以在图上进行梯度传播。如图是最简单的神经网络,ω为权重存在于模型中,是我们要训练的目标。y为最终的输出,*为进行计算的地方。在训练的时候实际上就是对ω权重进行更新,更新的时候是在计算Loss对权重的导数。图1 最简单的神经网络梯度下降的完整公式为,而导数部分经推导可得。对于简单的模型我们可以用上面的解析式方法去做,但是对于复杂的模型就不能再这样做了。图2 复杂的模型如图2,每一个圆圈里都有一个自己的ω,权重数量非常多。...原创 2022-02-09 17:50:20 · 984 阅读 · 0 评论 -
[Pytorch] 学习记录(二)回归与梯度下降
本文将对回归进行深入了解原创 2022-02-09 09:57:07 · 524 阅读 · 0 评论 -
[Pytorch] 学习记录(一)
本篇内容包含基础部分诸如梯度下降、variable、激活函数等。原创 2022-02-08 16:43:01 · 451 阅读 · 0 评论