深度学习
文章平均质量分 55
AD_钙
这个作者很懒,什么都没留下…
展开
-
【深度学习】监督学习、非监督学习和强化学习的简单定义,回归问题和分类问题的区别
学习笔记,供自己查看1. 监督学习【有人在监督你】【主流 】对已经标记的数据样本进行学习对样本外的数据进行标记预测标记的含义:人为指定每一个样本的类别比如人为标记每一封邮件,然后对新来的邮件判断是否为垃圾邮件。2. 非监督学习对没有标记的训练样本进行学习,发现其中的结构性知识如购买商品的顾客,买西瓜的是一类,买珠宝的是一类3. 强化学习机器人不断根据环境做决策环境根据决策进行奖励或者惩罚机器人就根据环境给予的反馈来学习...原创 2021-09-21 15:41:09 · 898 阅读 · 0 评论 -
【深度学习 反向传播算法01】什么是反向传播算法? (求解梯度-链式求导法则)
反向传播算法本文是根据深度学习课程图文做的笔记0. 背景简单深度学习模型的基本流程: 1. 定义模型 2. 读入数据 3. 给出损失函数f 4. 梯度下降法更新参数(手动求梯度、pytorch自动求导)对于复杂模型,如100层网络,该怎么解决呢?⭐反向传播算法自动求导的本质就是反向传播算法反向传播算法是一个有效求解梯度的算法,本质是链式求导法则的应用1. 链式法则利用链式求导法则:令 q=x+y它们的微分:又因为 q = x +y则:..原创 2021-07-18 02:21:43 · 1886 阅读 · 0 评论 -
【深度学习理论 卷积神经网络04】快速了解池化层(Pooling)的功能和运作方式
本文是笔记,参考课程图文池化层01. 功能除了卷积层以外,另一个重要的隐藏层是一个下采样的操作用于快速减少输入的大小,同时不丢失重要的信息02. 常见池化层1. max pooling 最大值池化2. average pooling 平均值池化03. 概念理解以此图为例,可以看到被分成大小相同,形状相同的四块,实际上是矩阵核的初始位置和三次滑动,即类似之前提到的kernel卷积核矩阵核:2 * 2stride步长:2输出结果形状计算: (4-2)/ 2 +1公式可见:ht原创 2021-07-10 09:22:50 · 265 阅读 · 0 评论 -
【深度学习理论 卷积神经网络03】快速了解卷积层(Convolution Layer)的功能和运作方式
卷积层 Convolution Layer0.背景一个卷积核 ==> 一个输出多个卷积核 ==> 多个输出一个卷积层 ==> 多个卷积核排列 ==> 多个输出1.卷积层的例子原图大小:32 * 32 * 3kernel:一个 5 * 5 * 3 的卷积核输出形状:(32-5)+1 = 28 即 28 * 28 * 1(一个卷积核)输出形状的计算公式可以看:https://blog.csdn.net/weixin_44121966/article/deta原创 2021-07-07 17:11:12 · 533 阅读 · 0 评论 -
【深度学习理论 卷积神经网络02】 卷积的一般知识(根据卷积核大小和步长计算输出结果形状)
0. 卷积的一般知识ksize:卷积核大小,可以为1,2,3,4…stride:卷积核一次在原图上移动的步长,可以为1,2,3,4…padding:给原图打补丁,在原图周围填充0,调整输出大小1.根据卷积核大小和步长计算输出结果形状3 * 3矩阵作为kernel,在周围打padding,stride为2阴影部分的计算:0 * 2 + 0 * 0 + 1 * 1 + 0 * 1 + 2 * 0 + 3 * 0 +0 * 0 + 3 * 1 + 3 * 1 =7输出结果的形状计算:原图原创 2021-07-07 13:38:19 · 1695 阅读 · 0 评论 -
【深度学习理论 卷积神经网络01】超快理解kernel卷积核 及 引言
卷积神经网络本文为深度学习笔记,参考课程图文0.问题导入输入:矩阵、图片简单的解决方案:将图片像素点按照行或者列拉成一个很长的向量,但是图片很大时,实际操作做不到。图片尺寸:10001000RGB:R、G、B 3个通道输入数据大小:31000*1000 =300 0000隐藏层:1000个隐藏元连接矩阵:300 0000 * 1000 =3 * 10^9计算机存储代价过大2.传统几何方法:模糊、锐化、提取垂直边界...原创 2021-07-07 12:30:52 · 1247 阅读 · 0 评论 -
【深度学习理论 多分类问题01】概念介绍及softmax损失函数
深层神经网络 参考课程图文Mnist数据集这是张图片,灰度图,不要当数字看多分类问题比如这张图,识别0-9十个数字,那它就是10分类。这样的问题要使用更复杂的loss函数:交叉熵二分类时使用sigmoid函数:对于二分类,非黑即白,只需要一个值来表示属于某一类的概率。而多分类需要知道它属于每一类的概率。多分类使用softmax函数(见红框部分):网络输出:z1,z2…zk先取指数、再每一项除以它们的求和...原创 2021-07-07 11:02:10 · 378 阅读 · 1 评论