深度学习复习总览（一）

已于 2023-08-13 21:30:29 修改
阅读量1.1k 收藏 16
点赞数 3
分类专栏： 深度学习 深度学习实验 文章标签： 深度学习
于 2020-10-18 20:54:33 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_37534947/article/details/109149722
版权
本文是深度学习复习的概述，介绍了人工智能的定义及其标志性事件，包括感知机、BP算法和深度学习在ImageNet及AlphaGo中的应用。接着，文章讨论了机器学习的三要素：模型、学习准则和优化算法，特别提到了梯度下降的不同类型。最后，简要提及了神经网络、范数概念以及感知机的基本原理。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

一：绪论
人工智能：使一部机器人像人一样进行感知、认知、决策、执行的人工程序或系统。
标志事件表：
在这里插入图片描述
人工智能诞生：1956年的达特茅斯会议
三个层面：目前处于第二个
在这里插入图片描述
分类：
在这里插入图片描述
三起两落：
在这里插入图片描述
其中第一次是感知机的出现，

了解本专栏 订阅专栏 解锁全文 超级会员免费看
深度学习复习总览（三）
qq_37534947的博客
10-18 958
前馈神经网络： https://blog.csdn.net/qq_37534947/article/details/107832979 补充： 人工神经网络的三大要素： 万能近似定理： 可以看到只需要一个线性输出层和一个隐藏层组成的神经网络就可以近似任何函数，但是规模可能巨大，随着深度的增加，网络的表示能力呈指数增加。并且有着更好的泛化能力，但是未必带来模型效果的提升。 ...
深度学习复习总览（四）
qq_37534947的博客
10-18 835
深度模型优化与正则化： 网络优化 目的：经验风险最小化。对于低维来说，目的是逃离局部最优点；对于高维来说，则是逃离鞍点。 梯度下降 批量梯度下降、小批量梯度下降、随机批量梯度下降。 学习率 流程：学习率预热、学习率衰减、学习率周期调整、自适应学习率。 1）学习率预热： 2）学习率衰减 3）周期性学习率调整 4）自适应学习率 缓解batch小导致的幅度震荡 动量法 比较： 参数初始化 数据初始化 超参数优化 过拟合-正则化 有点累了—以后再写 .
深度学习复习.pdf
03-06
山东大学计算机学院人工智能实验班（2018级）深度学习与神经网络 期末复习重点 （期末复习时上课划出的重点）
深度学习复习
qq_42304949的博客
06-09 1525
分类性能度量 精确率和召回率 向量范数,矩阵范数 欠拟合、过拟合 与模型的variance, bias的关系 LDA原理 PCA原理, PCA白化 数据归一化 信息熵,交叉熵, KL散度, JS散度 感知机的原理 神经网络 基础知识,结构、激励函数及导函数、网络参数量计算等等 梯度下降原理,梯度计算 全连接网络和卷积神经网络 反向传播原理 联系 卷积神经网络 原理和知识 卷积计算 正则化 权重衰减 L和12正则 数据增强和提前终止 Dropout 循环神经网络 原理和知识 自编码
深度学习期中复习
vimpirespider的博客
04-19 889
第一章 深度学习和机器学习差异 机器学习 基本问题：分类，回归，聚类，降维 算法：KNN，贝叶斯，决策树，SVM，逻辑回归，随机森林，集成学习 改变结构，实现不同的玩法，适应不同场合 深度学习 主要是解决分类，回归，模拟 感知机，多层神经网络，卷积，递归，GAN 统一的计算单元，通过变换参数和连接实现不同应用场合 1.深度学习与机器学习的主要区别是在于性能。当数据量很少的时候，深度学习的性能并不好，因为深度学习算法需要大量数据才能很好理解其中蕴含的模式。 2.深度学习算法严
深度学习基础知识复习
Dream_csd的博客
07-15 496
1、描述为什么需要量化，量化的流程。 目前很多高精度的深度学习模型所需内存、计算量和功耗巨大，但不适合部署到一些低成本的嵌入式设备，为了解决此问题，模型压缩技术应运而生。 量化的流程： 通过数据映射，将输入float32的数据类型转为uint8，biases不进行量化操作，进行卷积计算后输出unit32的数据类型，与biases加和后，再次转为uint8，经激活函数激活后输出uint8的数据类型。相对于float32，uint8量化可以将模型大小减少4倍，并将内存带宽要求减少4倍，对uint8计算的硬件支
深度学习复习总览（五）
qq_37534947的博客
10-19 992
文章目录卷积神经网络一、三个特点二、卷积和互相关三、卷积操作四、池化五、增加输出单元的感受野六、卷积网络发展历程 卷积神经网络 为什么引入卷积网络？主要是对于图片来说，全连接神经网络的几个弊端如下： 一、三个特点 稀疏交互/局部连接： 在全连接神经网络，一层的每个神经元和前一层的所有神经元都有连接；而在卷积神经神经网络中，输出单元和前一层的部分神经元（卷积核大小）有连接；这样导致的结果是参数由M(L)*M(L-1)减少为M(L) *K * K. 其中K为卷积核大小/滤波器大小。 参数共享： 对于上面
深度学习复习总览（二）
qq_37534947的博客
10-18 881
深度学习的框架： 核心组件 张量、基于张量的相关操作、计算图、自动微分工具、cudnn等扩展包。 张量：多维数组，0维张量即标量、1维张量即矢量、2维张量即矩阵、3为张量矩阵数组、4为张量… 基于张量的相关操作： 计算图： 自动微分工具 cudnn等扩展包： 发展历程 Tensorfloe和Pytorch对比 主流框架介绍 ...
深度学习期末复习
最新发布
qq_49446488的博客
05-30 486
太原理工大学深度学习复习纲要
深度学习复习笔记
weixin_43581877的博客
12-31 2286
深度学习（邱锡鹏）复习笔记 第1章 绪论： 人工智能、机器学习、深度学习、表示学习、特征工程区别和联系 神经元的构造 神经网络的发展历史 前馈神经网络： 激活函数相关知识Sigmoid、Logistic、RELU、Tanh优缺点和不足，需要改进的地方 前馈神经网络的参数数量和计算流程 P92 eg:神经元个数对应权重的维度 0初始化的问题 eg：习题4-8 为什么在用反向传播算法进行参数学习时要采用随机参数初始化的方式而不是直接令W =0 b=0 ？ 因为如果参数都设为0，在第一遍前向计算的过程中所有的隐藏
深度学习复习提纲
蒜法
06-14 220
无
深度学习复习总结
weixin_43389568的博客
11-02 1009
深度学习总结
【深度学习复习】重要知识点二
累了
05-27 754
总结_2
【深度学习复习】重要知识点一
累了
05-26 660
总结_1
深度学习进阶（七）--复习(一)
向前方，莫转角
10-13 231
总结一下今天的学习过程 今天上午帮室友在win10上装了一次，不过好多问题在win7上不同，有一部分是相同的 下午继续复习了近阶段对深度学习进阶 深度学习概念 环境配置 神经网络结构 梯度下降算法 backpraprotion算法 平凡的一天，明天加油
深度学习算法框架总览
萌兔兔MMQ！！
03-11 1531
深度学习一词，最早是在2006～2007年，由Geoffrey Hinton 在《Science》上发表的文章开始被提出和逐步兴起的。深度学习是在机器学习的基础上发展的，神经网络的层级比机器学习的多而复杂，算法也有了很大发展。 算法的汇总，也是按照机器学习常用算法和深度学习常用算法进行分类的，算法基础分类： 机器学习Machine Learning 深度学习Deep Learning 如下图： 算法基础分类 机器学习算法 机器学习算法，可根据是监督学习还是非监督学习分为两大类。 机器学习算法分类层级如下：
深度学习进阶（七）--复习(二)
向前方，莫转角
10-13 234
总结一下今天的学习 今天将近阶段深度学习进阶总结完毕，并做了笔记 下午继续结合笔记查看了代码，进一步理解神经网络算法
深度学习复习作业题目及面试常见问题
master_hunter的博客
04-09 2695
一、卷积神经网络 1.普通卷积神经网络具体结构？各层作用 输入层 全连接层 卷积层 池化层 输出层 输入层：与传统神经网络/机器学习一样，模型需要输入的进行预处理操作 卷积层：进行特征提取，对于图片中的每一个特征首先局部感知，然后更高层次对局部进行综合操作，从而得到全局信息，还有权值共享 池化层 ： 通过去掉Feature Map中不重要的样本，进一步减少参数数量。用于特征降维，压缩数据和参数的数量，减小过拟合，同时提高模型的容错性。 全连接层：对提取的特征进行分类，最后的全连接层就是把之前得到
吴恩达深度学习精华：22图速览与理解
这份资料不仅适合初学者系统地理解深度学习的基本概念，也适合已经在机器学习领域有一定经验的专业人士和研究人员作为复习资料。 首先，深度学习的基础部分涵盖了监督学习的概念。在监督学习中，输入数据与对应的...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Studying_swz

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值