![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
《深度学习入门》
文章平均质量分 59
暑假学习SRDP
2022保研回南京!!!!!
这个作者很懒,什么都没留下…
展开
-
Chapter7 卷积神经网络CNN
和之前的网络比较 之前介绍的网络相邻层之间所有神经元都有连接,这叫全连接(fully-cnonected) CNN相比之前网络多了卷积层(Convolution层)和池化层(pooling层) 全连接层(Affine层)存在的问题:数据形状被忽视 Affine层读入的数据应是一维的。 例如:图像通常是高、长、通道 的 三维数据,而之前MNIST的(1,1,28)被拉成了一维784输入到最开始的Affine层。 图像是三维形状,“形状”含有重要的空间信息, 比如 空间上邻近的像素为相似值、RGB的各个通道间原创 2021-08-12 22:33:09 · 196 阅读 · 0 评论 -
Chapter 6 与学习相关的技巧
参数的更新就是optimization的过程 SGD只是其中一种方式 SGD的缺点 Momentum 思想:如果历史梯度和当前梯度方向相同,增强;反之,减若。 先说下 指数加权平均(exponentially weighted averges) Momentum数学式 引入变量v以考虑历史值加权和 α常取0.9等值 AdaGrad(adaptive,适当的) 和 RMSProp 学习率衰减(learning rate decay)是全体参数的学习率一致降低; 而AdaGrad对每一个参数“定原创 2021-08-08 21:49:59 · 59 阅读 · 0 评论 -
Chapter5 误差反向传播法
计算图(computational graph)理解反向传播 优点:局部计算+可保存中间结果 简单层的实现 层是神经网络中的功能单位,包括forward()和backward()->参数dout 乘法层的实现 加法层的实现 激活函数层的实现 在神经网络层的实现中,一般假定forward() backward()中的参数是Numpy数组。 sigmoid层实现 Affine层实现 ...原创 2021-08-07 22:10:10 · 331 阅读 · 0 评论 -
Chapter4 神经网络的学习
数据分为训练数据/监督数据(优化)和测试数据(评价泛化能力)。 (1)优化(optimization):用模型拟合观测数据的过程; (2)泛化(generalization):数学原理和实践者的智慧,能够指导我们生成出有效性超出用于训练的数据集本身的模型。 损失函数(loss function) yk,tk(one-hot:正解1 其余0) 均方误差(mean squared error) 交叉熵误差(cross entropy error) mini-batch学习 和chapter3 ba原创 2021-08-02 20:45:14 · 315 阅读 · 0 评论 -
Chapter3 神经网络
在上一章,感知机的权重和参数是人为定的。 神经网络则能自动从数据中学习到合适的权重参数。 神经网络的结构原创 2021-08-01 11:48:04 · 234 阅读 · 0 评论 -
Chapter2 感知机(perception)
基本原理 感知机接收多个信号,输出一个信号,信号只有0和1两种取值。 图中圆圈为神经元 改变权重和阈值的值即可实现门电路 与 与非 或 或非 均可实现 区别仅在于参数值 引入权重和偏置 具体实现与门 单层感知机的局限性 只能线性划分(w1x1+w2x2+b),无法解决异或门 多层感知机(mlp) 用与 与非 或 可实现异或 ...原创 2021-07-31 11:29:33 · 76 阅读 · 0 评论 -
Chapter1 Python入门
NumPy 对应元素计算(element-wise) import numpy as np x=np.array([1.0,2.0,3.0]) y=np.array([2.0,3.0,4.0]) x+y 广播 import numpy as np x=np.array([[1,2],[3,4]]) y=np.array([10,20]) x*y ______ array([[10, 40], [30, 80]) 访问元素 索引 for循环 import numpy as np x=np.a原创 2021-07-31 10:31:07 · 39 阅读 · 0 评论 -
人工智能、机器学习、深度学习的关系
深度学习和机器学习与人工智能 深度学习是使用了神经网络的学习方法,机器学习包含众多的学习方法,比如支持向量机,决策树等等。深度学习属于机器学习的分支。 机器学习、深度学习和人工智能的关系 人工智能 我们人类可以很容易解决问题一些,对于这些问题人类大脑不是根据固定的算法来推导的,而是根据以往的认知或者经验来推理。人工智能的目的也是如此,就是不给计算机编写固定的算法,让计算机根据已有的经验或者认知来帮助人们做事情。 机器学习 那么,如何才能实现人工智能呢?答案就是让计算机不断地学习,也就是喂给它大量的数据,让它原创 2021-07-17 15:39:36 · 253 阅读 · 0 评论 -
一.Python、Pycharm、Anaconda关系介绍及安装
一.Python、Pycharm、Anaconda关系介绍 1. Python Python是一种跨平台的计算机程序语言。 我们可以使用以下四种方式来python代码,前提是我们已经下载好了Python解释器,下载后配置好其系统环境变量,解释器的作用就是帮助我们将Python代码解释成机器可以识别成的语言,交给机器可以执行的工具。 (1)在命令窗口上运行 快捷键 Win+ R —> 输入cmd 到命令窗口—> 命窗口内输入python,我们就可以运行程序了。 (2)脚本方式运行 新建一个a.tx原创 2021-07-07 00:36:27 · 212 阅读 · 0 评论