【论文】Deep learning in neural networks: An overview

最新推荐文章于 2021-03-02 17:07:44 发布
最新推荐文章于 2021-03-02 17:07:44 发布
阅读量2.2k 收藏 9
点赞数 2
分类专栏： 周论文 文章标签： 论文&前沿&科研
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43722880/article/details/95727439
版权

周论文分三个部分：第一部分是论文导读，主要阐述论文内容和观点；第二部分是个人总结，也就是自己的看法；第三部分是相关资料，就是扩展和补充的一些知识或者资料。

第一篇论文是DL中一篇经典综述，最近在看Manning的自然语言处理课程，所以近期的论文可能都是课程中提供的论文资料~不说废话了，开始吧 ~
默认缩写
在这里插入图片描述在这里插入图片描述
《Deep learning in neural networks: An overview》
论文导读**
本篇论文主要整理了深度可监督学习、不可监督学习、增强学习及计算发展，以及大型深度网络的编码研究。
论文一共分为7个部分：
1、介绍深度学习在神经网络中的应用；
2、神经网络面向事件的表示激活方法（看完返回来检查翻译，感觉翻译的不对）
3、CAPS深度及相关问题
4、再探DL的几个主题
5、由不可监督神经网启发的几种可监督神经网络
6、为增强学习构建的FNNs及RNNs深度网络
7、小结展望

第一部分：介绍深度学习在神经网络中的应用
本部分主要介绍了神经网络的历史发展

  • 运用神经元的非线性模型的研究至少可以追溯到二十世纪60年代至70年代；
  • 梯度下降法最早用于可监督学习，发展于二十世纪60年代至70年代之间，1981年运用在神经网络上；
  • 基于BP的深度网络研究在20世纪80年代遇到瓶颈，直到90
最低0.47元/天 解锁文章
Taowenx
关注
  • 2
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
专栏目录
论文学习笔记01（Deep Neural Networks in Machine Translation: An Overview）
Xiao_yanling的博客
03-31 359
论文学习笔记 Deep Neural Networks in Machine Translation: An Overview 1.拓展：seq2seq模型（encoder-decoder结构的一种） 输入和输出不等长 从一个序列到另一个序列的转换 常用于机器翻译、聊天对话场景 两个RNN：一个做Encoder，一个做Decoder Encoder：将输入序列压缩成一个语义向量c Decode...
DNN(Deep-Learning Neural Network)
qq_50974223的博客
04-15 332
DNN(Deep-Learning Neural Network) 接下来介绍比较常见的全连接层网络（fully-connected feedfoward nerural network） 名词解释 首先介绍一下神经网络的基本架构，以一个神经元为例 输入是一个向量，权重（weights）也是一个矩阵 把两个矩阵进行相乘，最后加上偏差（bias），即w1 * x1 + w2 * x2 + b 神经元里面会有一个激活函数（activation），比如sigmoid,Relu等等，然后将这个结果当作未知量输入
Deep Learning in Neural Networks: An Overview
03-30
《Deep Learning in Neural Networks: An Overview》深度学习deep learning原版论文
Deep Learning in Neural Networks An Overview
03-31
Deep Learning in Neural Networks An Overview
Deep Learning in Neural Networks An Overview.pdf
12-21
Deep Learning in Neural Networks An Overview.pdf
2015NEUNET Deep learning in neural networks An overview.pdf
01-19
近年来，深层人工神经网络（包括递归神经网络）在模式识别和机器学习领域赢得了众多的竞争。这项历史调查简洁地总结了相关的工作，其中大部分来自上一个千年。浅层学习者和深层学习者的区别在于他们的学分分配路径的...
An Overview of Multi-Task Learning in Deep Neural Networks.pdf
02-23
for MTL in Deep Learning, gives an overview of the literature, and discusses recent advances. In particular, it seeks to help ML practitioners apply MTL by shedding light on how MTL works and ...
1.3.1 【Deep Learning翻译系列】Neural Network Overview神经网络概览
hyczkg的博客
11-28 228
上图是一个神经网络。神经网络中每个的节点对应于的两个步骤： 首先计算 z=wTx+bz=w^Tx+bz=wTx+b ，然后计算 a=σ(z)a=\sigma(z)a=σ(z) ，如下图所示。 它的计算图如下所示： 首先输入 x,W[1],b[1]x,W^{[1]},b^{[1]}x,W[1],b[1] ，来计算 z[1]z^{[1]}z[1] ，然后与对数几率回归类似，使其通过 σ\sigm...
overview on domain adaptation in neural machine translation
08-14
对当前神经机器翻译领域的domain adaptation 的主流方法做了细致的分类与总结。
变分法及其原理
04-21
能量原理与变分法，虚位移原理，可能功原理，最小势能原理
多任务学习-An Overview of Multi-Task Learning in Deep Neural Networks论文笔记
wxf19940618的博客
01-04 1976
An Overview of Multi-Task Learning in Deep Neural Networks论文笔记   概述：多任务学习有很多形式，如联合学习（Joint Learning），自主学习（Learning to Learn），借助辅助任务学习（Learning with Auxiliary Tasks）等。一旦发现正在优化多于一个的目标函数，就可以通过多任务学习来进行有...
综述翻译：多任务学习-An Overview of Multi-Task Learning in Deep Neural Networks
Ten_yn的博客
03-02 2402
多任务学习已经在机器学习的很多领域取得成功，包括自然语言处理、语音识别、计算机视觉和药物发现。本文旨在给出多任务学习的概述，尤其是在深度神经网络方面的多任务学习。本文介绍了深度学习中两种最常用的多任务学习方法，给出了这方面的概述，并讨论了最新进展。特别是，它通过阐明多任务学习的工作原理并提供选择适当辅助任务的指南来帮助机器学习从业者应用多任务学习。
【deeplearning.ai】Neural Networks and Deep Learning——深层神经网络
贾维斯的小屋
09-23 469
吴恩达的deeplearning.ai公开课学习笔记。最近忙忘了整理，课程已被锁定，没能把编程作业保留下来……所以只把之前的笔记、公式整理了一下。水平有限，如有错误欢迎指出~ 一、多层神经网络 1、神经网络结构 以四层网络为例： 一些符号说明： 上一篇博文介绍了浅层网络（一个隐藏层）的前向传播和反向传播公式，了解了浅层网络的传播方式后，很容易将其扩展到多层网络。上片博
Neural Networks and Deep Learning之中文翻译-关于本书
wangchongttg的博客
11-09 1371
本章原文地址：http://neuralnetworksanddeeplearning.com/about.html 神经网络是有史以来最美的编程范式之一，传统的编程方式是我们告诉电脑如何做，我们会把一个复杂的问题分解成许多小的、能够精确定义的、电脑能够很容易执行的子任务。相比之下，在神经网络中，我们不会告诉电脑如何去解决我们的问题，然而它会从观测数据中学习找到自己的解决方法。 自动从数据中学
Deep Learning 学习笔记1：神经元、神经网络与深度学习
WPR1991的博客
09-22 964
    深度学习是机器学习的一个重要分支，而神经网络则是其理论基础。神经网络的设计来源于神经科学，很早之前科学家就研究了神经元的组成结构。而这种神经元结构也就是神经网络的原型。     神经元模型是一个包括一个输入、输出以及计算功能的模型，如下图：     在每一个连接上都会有一个参数，叫做权重。一个神经网络的算法就是让权重值调整到最佳，以使得整个网络的预测效果达到最好。在初端，传递的信号...
机器学习(Machine Learning)与深度学习(Deep Learning)资料汇总
wojiaoawenlong的博客
09-28 3809
《Brief History of Machine Learning》 介绍:这是一篇介绍机器学习历史的文章，介绍很全面，从感知机、神经网络、决策树、SVM、Adaboost到随机森林、Deep Learning. 《Deep Learning in Neural Networks: An Overview》 介绍:这是瑞士人工智能实验室Jurgen Schmidhuber写的最新版本《神经网...
机器学习(Machine Learning)&深度学习(Deep Learning)资料
栖客
11-09 880
转载自： 《Brief History of Machine Learning》 介绍:这是一篇介绍机器学习历史的文章，介绍很全面，从感知机、神经网络、决策树、SVM、Adaboost到随机森林、Deep Learning. 《Deep Learning in Neural Networks: An Overview》 介绍:这是瑞士人工智能实验室Jurge
介绍深度学习，附上参考文献并在介绍中标记出来
最新发布
05-18
深度学习是一种机器学习方法，通过构建多层神经网络模型来实现对数据的学习和预测。深度学习在图像识别、自然语言处理、语音识别等... Deep learning in neural networks: An overview. Neural networks, 61, 85-117.

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值