深度学习基础(综述及名词解释)

最新推荐文章于 2024-09-20 21:44:29 发布
最新推荐文章于 2024-09-20 21:44:29 发布
阅读量503 收藏 1
点赞数
分类专栏： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sxcsxcsxcsxc/article/details/82156192
版权
本文概述了深度学习的发展历程，从感知机到深度神经网络的演进，探讨了多层感知机、卷积神经网络和循环神经网络等关键模型。同时，文章解释了深度学习的相关术语，如反向传播、特征、正则化等，并指出当前神经网络面临的问题和挑战。
摘要由CSDN通过智能技术生成

深度学习发展历程

1950s
提出了感知机perceptron，但是由于感知机不能解决异或问题，很快被学术界否认了。
之后不久便提出了多层感知机，多层感知机成功的解决了异或问题，并被认为可以在拟合任意形状的分类面，但是由于多层感知机本身面临难以训练的问题，也没有得到广泛的认可。

1980s
1980年提出了反向传播算法（back propagation），为多层感知机的训练提供了理论上的解决方案，但是多层感知机在计算的过程中依然面临梯度消失、不容易收敛、计算速度慢等问题。

2006s
Geoffrey Hinton 发表一篇论文《Deep Belief Nets 深度置信网络》,提出了用逐层预训练的方式来训练神经网络，被认为是神经网络第三次兴起的开端。

2010s
GPU加速训练神经网络
Nevida 提出了cuda计算框架，迅速占领了深度学习的市场。

在当前阶段神经网络依然面临很多问题：

  • 神经网络难以解释
  • 可控性差
  • 缺乏足够的理论依据

神经网络的分类

数据流向分类

  • 前馈网络
  • 反馈网络
  • 递归网络

网络中神经元的组织形式

  • 全连接
  • 部分链接

网络中神经元的行为

  • 简单神经网络
  • 卷积神经网络
  • 循环神经网络（RNN
最低0.47元/天 解锁文章
学前教育科研方法名词解释和简答.doc
10-07
以下是这些名词解释和简答的详细说明： 1. **科学研究**：科学研究是系统性地探索自然和社会现象的过程，旨在发现新规律并基于已有知识进行深入理解。在学前教育科研中，这一过程通常涉及有目的、有计划的观察、...
深度学习名词解释
medusa_zj的博客
05-21 931
深度学习评价指标评价指标准确率、精确率、召回率mAP 评价指标 准确率、精确率、召回率 True Positive(真正，TP)：将正类预测为正类数 True Negative(真负，TN)：将负类预测为负类数 False Positive(假正，FP)：将负类预测为正类数误报 (Type I error) False Negative(假负，FN)：将正类预测为负类数→漏报 (Type II error) 精确率：是针对我们预测结果而言的，它表示的是预测为正的样本中有多少是真正的正样本。那么预测为正就有两
深度学习初学者必须知道的25个专业名词
JerryWisdom的博客
10-15 5992
当我们刚开始阅读有关深度学习的文章时，总会遇到几个陌生的专业名词。本文为你创建了一个深度学习字典，你可以随时参考最常用术语的基本定义。希望在这篇文章之后，这些术语不再困扰你。 如果你想了解或入门深度学习领域，那么，这篇文章对你很重要。本文将解释在深度学习中常用的25个专业名词。 基础名词篇 1. 神经元 就像神经元构成我们大脑的基本组成部分一样，神经元形成神经网络的基本结构
深度学习的名词解释
weixin_47658790的博客
04-04 1304
神经网络基础 1、神经元（Neuron）——就像形成我们大脑基本元素的神经元一样，神经元形成神经网络的基本结构。想象一下，当我们得到新信息时我们该怎么做。当我们获取信息时，我们一般会处理它，然后生成一个输出。类似地，在神经网络的情况下，神经元接收输入，处理它并产生输出，而这个输出被发送到其他神经元用于进一步处理，或者作为最终输出进行输出。 2、权重（Weights）——当输入进入神经元时，它会乘以一个权重。例如，如果一个神经元有两...
深度学习基础（一）：综述
weixin_44365744的博客
01-04 186
深度学习（一）基本概念前沿/问题 基本概念 任务主要分为Regression(回归，输出值)、Classification(分类，输出类别)、Generation(生成，进行创造，输出不定) 告诉机器寻找function方法：Supervised Learning(有监督学习)、Unsupervised Learning(无监督学习) 有监督学习：给机器标注的资料labeled data，告诉机器学习理想的输出。通过Loss评判学习的方式好坏，找出loss最低的function即理想function
《深入浅出AI》前言知识：深度学习基础总结
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
09-13 2356
本文详细介绍了深度学习的基础知识、主要概念和术语、以及经典的深度学习算法。深度学习是机器学习的一个分支，侧重于构建和训练神经网络以自动提取特征。文章探讨了深度学习的优缺点，比较了机器学习与深度学习的区别，并讨论了如卷积神经网络（CNN）、循环神经网络（RNN）、生成对抗网络（GANs）和深度强化学习（RL）等深度学习模型。此外，文中还介绍了如何使用深度学习进行手写数字识别任务，包括数据准备、网络配置、模型训练、评估和预测的步骤，并通过实例展示了整个流程。最后，分享自己精心制作的深度学习思维导图。
基于深度学习的文本情感原因提取研究综述——论文阅读
最新发布
weixin_62472350的博客
09-20 1347
关于情感原因对抽取的研究综述
《深入浅出OCR》前言知识（二）：深度学习最新全面总结
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
08-29 5337
本作者推出全新系列《深入浅出OCR》专栏，对标最全OCR教程。将分别从OCR技术发展、方向、概念、算法、论文、数据集等各种角度展开详细介绍。本篇为该专栏的前言知识，主要介绍深度学习知识，全面总结知知识点，方便小白或AI爱好者学习基础知识。
【论文分享】深度异常检测综述（Deep Learning for Anomaly Detection: A Review）-中
vector的博客
08-24 3320
在上一次的论文分享中????https://blog.csdn.net/qq_39328436/article/details/118582785我们介绍了深度异常检测以及其复杂性与挑战。在这个一次的论文分享中，我要介绍“深度异常检测”的几个类别，也可以说是几个重点的研究方向。一共涉及三个大类以及11个小类，本次会对这11个类别展开介绍，重点介绍特征，原理，研究路线，优点，缺点，以及他们所应对的挑战。需要提前说明的是，本次并不对每个方法的进行详细的逻辑推导和证明（毕竟是综述性质的论文，主要的目的还是从整体上
深度学习—名词解释
H_Shelly的博客
02-15 568
卷积步幅的解释 https://blog.csdn.net/weicao1990/article/details/80282837
【深度学习】名词解释
shura的技术空间
10-20 5053
在深度学习中遇到的几个重要的关键点词解释
深度学习基本名词理解
xyz2107605729的博客
06-24 232
交叉熵 信息量 熵 相对熵（KL散度） 交叉熵 softmax logits 深度学习源码中经常出现的logits其实和统计中定义的logit=log(p/1-p)(事件发生概率与不发生概率比值的对数)没什么太大关系，就是定义的神经网络的一层输出结果。该输出一般会再接一个softmax layer输出normalize 后的概率，用于多分类 ...
深度学习基本术语
weixin_30271335的博客
09-15 108
决策树：是一个预测模型。他代表俄是对象属性与对象之间的一种映射关系。树中每个节点表示某个对象，而每个分叉路径则代表某个可能的属性值，每个叶节点对应从根节点到该叶节点所经历的路径所表示的对象的值。 条件概率：就是事件A在另外一个事件B已经发生的情况下的发生概率。条件概率表示为P（A|B），读作“在B条件下A的概率”。 感知机：它被视为是一种最简单的前馈神经网络，是一种二元线性分类器。 前馈...
【深度学习】深度学习名词概念解释
Leoh的博客
05-30 1436
RNN（循环神经网络）具有如下所示的循环结构的网络。如上所示的循环结构使RNN的输出前馈到自身，因此，RNN网络拥有“状态”。
深度学习概念名词解释总结
Francis Liu
11-29 5958
2019-1-4 更 1. 神经元Neuron：接受输入产生输出的基本单位。 2. 权重Weights：矩阵或张量，与输入相乘后与偏差相加。 3. 偏差Bias：被应用于输入的线性分量，改变权重与输入相乘的结果范围。 4. 激活函数 Activation：非线性，保留并映射神经元特征： sigmoid： 产生(0, 1)之间的平滑范围值；当输入稍微远离原点，函数梯度就变得很小；函数输出...
深度学习在自然语言处理中的创新应用与资源概览
资源集中涵盖了从深度学习架构的基础理论到具体应用场景的深入讲解。内容不仅包括了理论知识，还提供了实用的代码资源，便于研究者和开发者快速上手和实践。文档详细介绍了数据表示方法、模型架构如连续词袋（CBOW）...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值