神经网络那些事之发展史

最新推荐文章于 2024-08-23 20:50:20 发布
最新推荐文章于 2024-08-23 20:50:20 发布
阅读量1.3k 收藏 6
点赞数
分类专栏： 书籍 文章标签： 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_38727626/article/details/103896306
版权
本文概述了神经网络从诞生到现在的历程，经历了三次复兴和两次低谷。首次复兴始于感知机的诞生，但因计算能力和数据量限制而跌落。第二次复兴归功于多层感知机和反向传播法，但在SVM等方法崛起后再次受挫。第三次复兴得益于计算力提升和大数据，神经网络在深度学习时代绽放光芒。
摘要由CSDN通过智能技术生成

https://github.com/123liudong/deeplearing_nocode_handbook.git

神经网络从诞生之日起到现在的人尽皆知并不是大家想象的那么一帆风顺,接下来我将会从下面几个方面来谈谈神经网络大概的发展史:

  • 神经网络的提出是为了解决什么问题?
  • 为什么神经网络会复兴?
  • 为什么神经网络会跌下谷底?

概览起落

四个字概括神经网络的坎坷成长便是"三起两落",网上有张段子图很形象的表示出神经网络的发展趋势,以及部分同志对AI的持有态度.
image.png

第一次复兴:诞生

笔者认为神经网络的前身就是感知机,感知机的诞生才算是神经网络的1.0版本.一些资料上认为1943年的A Logical Calculus if Ideas Immanent in Nervous Activity提出了神经元计算模型,这才是神经网络最开始的起点.我认为这个观点没有错,笔者也没有错,如果把神经网络再细化一点,其本质也不过是加减乘除这些最基本的操作.所以这个问题就不用再进行陈述.

1958年提出感知机《The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain》的大牛叫做Rosenblatt,感知机的过人之处在于仿生物学,可以完成一些简单的视觉处理任务.此外这个大牛在理论上证明了单层神经网络在处理线性可分的模式识别问题时的收敛性,说明单层感知机具有一定程度的学习能力.这一发现在当时可是了不起的啊,于是神经网络的第一次升起便是在他诞

最低0.47元/天 解锁文章
123liudong
关注
专栏目录
神经网络发展史
Jiali Zhang的博客
05-19 1万+
简述神经网络发展的三起两落。
深度学习发展里程碑事件2006-2024
xw555666的博客
02-22 1423
2006-2024年，深度学习发展经历众多的里程碑事件，一次次地刺激着人们的神经，带来巨大的兴奋。电影还在继续，好戏在后面，期待……
神经网络的发展历史概述
qq_40905198的博客
08-20 6002
神经网络的发展也经历了高潮和低谷，本文主要对其发展的几个关键节点进行简要说明，之后的文章会各阶段主要技术进行讲解。 第一阶段 1943年，美国神经生理学家Warren McCulloch和数学家Walter Pitts首次提出形式神经元模型–M-P模型； 1958年，Roseblatt提出感知器； 1969年，Minsky和Papert指出感知器无法解决线性不可分问题，神经网络的发展陷入低潮。 第二阶段 1980年，福岛邦彦等人提出神经认知机； 1982年，Hopfield等人提出Hopfield 模型；
人工智能的发展史（人工智能的”三起两落“）
最新发布
2302_79896301的博客
08-23 2489
该专家系统的研制成功不仅为人们提供了一个实用的专家系统，而且对知识表示、存储、获取、推理及利用等技术是一次非常有益的探索，为以后专家系统的建造树立了榜样，对人工智能的发展产生了深刻的影响，其意义远远超过了系统本身在实用上所创造的价值。从此，人工智能的第二个寒冬降临了。对知识的表示、利用及获取等的研究取得了较大的进展，特别是对不确定性知识的表示与推理取得了突破，建立了主观Bayes理论、确定性理论、证据理论等，对人工智能中模式识别、自然语言理解等领域的发展提供了支持，解决了许多理论及技术上的问题。
神经网络的发展历史
qq_45387772的博客
09-11 8417
论文中提出了人工神经网络的概念，并给出了人工神经元的数学模型，从而开创了人工神经网络研究的时代。
分类常用的神经网络模型,深度神经网络主要模型
神经网络爱好者
08-10 1834
由于神经网络是多学科交叉的产物，各个相关的学科领域对神经网络都有各自的看法，因此，关于神经网络的定义，在科学界存在许多不同的见解。目前使用得最广泛的是T.Koholen的定义，即"神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。"如果我们将人脑神经信息活动的特点与现行冯·诺依曼计算机的工作方式进行比较，就可以看出人脑具有以下鲜明特征：1.巨量并行性。...
神经网络的历史与演进
AI天才研究院
01-07 1094
1.背景介绍 神经网络是人工智能领域的一个重要分支，其核心思想是模仿人类大脑中神经元的工作原理，构建一个由多层神经元组成的网络，以解决各种复杂问题。在过去几十年里，神经网络发展迅速，从简单的模式识别问题开始，逐渐发展到深度学习、自然语言处理、计算机视觉等高级应用领域。本文将回顾神经网络的历史与演进，探讨其核心概念、算法原理、应用实例等方面。 1.1 神经网络的诞生 神经网络的起源可以追溯到1...
神经网络大详解
Jackydu1的博客
05-14 3190
各位小伙伴们，大家好，我是杜同学。今天想与大家分享一下神经网络的起源，从感知机模型到BP神经网络，其中会包括前向传播、反向传播等相关知识。当然，看这篇帖子之前，希望大家具备一些先导知识，特别是高等数学中链式求导以及求偏导的基础知识。相信这对大家来说肯定也不是问题啦。
深度学习世界发展史_神经网络浅讲：从神经元到深度学习（全）.pdf
11-18
这篇文档《深度学习世界发展史_神经网络浅讲：从神经元到深度学习（全）》全面阐述了深度学习的发展历程和核心概念，让我们一起探索这个领域的历史、理论与实践。 神经网络是深度学习的基础，其概念起源于20世纪40...
神经网络发展史详解pdf,神经网络发展史详解图
super339的博客
10-22 459
由于神经网络是多学科交叉的产物，各个相关的学科领域对神经网络都有各自的看法，因此，关于神经网络的定义，在科学界存在许多不同的见解。目前使用得最广泛的是T.Koholen的定义，即"神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。"如果我们将人脑神经信息活动的特点与现行冯·诺依曼计算机的工作方式进行比较，就可以看出人脑具有以下鲜明特征：1. 巨量并行性。
神经网络之前世今生
阿宾的地盘儿
08-29 236
学习目标： 提示：这里可以添加学习目标 例如：一周掌握 Java 入门知识 学习内容： 提示：这里可以添加要学的内容 例如： 1、 搭建 Java 开发环境 2、 掌握 Java 基本语法 3、 掌握条件语句 4、 掌握循环语句 学习时间： 提示：这里可以添加计划学习的时间 例如： 1、 周一至周五晚上 7 点—晚上9点 2、 周六上午 9 点-上午 11 点 3、 周日下午 3 点-下午 6 点 学习产出： 提示：这里统计学习计划的总量 例如： 1、 技术笔记 2 遍 2、CSDN 技术博客 3 篇
神经网络的前世今生及应用
SeafyLiang的博客
10-22 3212
本文由微言创新（InnoTalk）授权转载，作者：金城 复旦大学副教授，博士生导师 AlphaGo、无人驾驶、人脸识别、智能翻译……这一个个耳熟能详的名词无不预示着人工智能时代的到来。人工智能的本质，是对人的思维过程和行为方式的模拟。研究人的认知机理，引入人的神经元概念，势在必行。 一、什么是神经网络 　　人工智能领域的一个重要任务是让计算机能够像人一样对输入的信息进行判定。比如当计算机读入...
神经网络从产生到现在的发展历史--科普
jinking01的专栏
12-02 1万+
对于入门学习神经网络的没有基础的同学来说，直接上公式和各种算法，会比较懵圈。我个人的体会是先了解这个技术的来龙去脉，先从科普版开始，从它最简单地方式开始，一步一步了解它怎么演进的，每一个时代考虑了什么，加入了什么，优化了什么。我原来学过人工智能的课，但是好些年不用，都忘记了，后来买一本华东师范大学出的高中生用的人工智能基础看了一下，迅速把人工智能相关基础拾了起来。 我看了很多神经网络入门的相关文...
图解神经网络发展——TensorFlow学习笔记三
路拾遗的博客
04-22 1194
神经网络发展神经网络的发展历史（三起两落）机器学习的典型应用小结； 神经网络的发展历史（三起两落） 第一次兴起： 1958 年，人们把两层神经元首尾相接，组成单层神经网络，称做感 知机。感知机成了首个可以学习的人工神经网络。引发了神经网络研究的 第一 次兴起。 第一次寒冬： 1969 年，这个领域的权威学者 Minsky 用数学公式证明了只有单 层神经网络的感知机无法对异或逻辑进行分类，Mins...
P0【深度学习】发展历史介绍
张小怪_
11-03 1689
目录 第一代神经网络（1958~1969） 第二代神经网络（1986~1998） 统计学习方法的春天（1986~2006） 第三代神经网络-DL（2006-至今） 快速发展期（2006~2012） 爆发期（2012~至今） 学习任一门知识都应该先从其历史开始，把握了历史，也就抓住了现在与未来 ———by BryantLJ 首先盗一张图（来自于“深度学习大讲堂”微信公众号～），该图形象的展示DL今年来的发展历程及关键节点： 由图可以明显看出DL在从06年崛起之前经历了两个低谷..
超详细的深度学习基础
Hanzoe的博客
08-20 935
深度学习基础 深度学习发展历程 三起两落的深度学习： 1943年，由一位心理学家和一位数学家共同提出人工神经网络的基本概念，不过在当时并没有得到大众的重视。直到1957年感知器模型的提出，使得神经网络可以解决一些常规的线性分类和线性回归的任务，这引发了AI研究的热潮，但是在之后的研究中发现，它无法解决简单的异或问题（XOR),因此迎来了第一次低潮。虽然在1980年多层感知器解决了单层感知器的问题，...
神经网络浅讲：从神经元到深度学习
sherry_gp的博客
01-21 2040
图1 人脑神经网络 神经网络是一门重要的机器学习技术。它是目前最为火热的研究方向–深度学习的基础。学习神经网络不仅可以让你掌握一门强大的机器学习方法，同时也可以更好地帮助你理解深度学习技术。 本文以一种简单的，循序的方式讲解神经网络。适合对神经网络了解不多的同学。本文对阅读没有一定的前提要求，但是懂一些机器学习基础会更好地帮助理解本文。 神经网络是一种模拟人脑的神经网络以期能够实
神经网络的发展过程
热门推荐
weixin_42620513的博客
03-31 1万+
神经网络的发展大致经过五个阶段。 第一阶段：模型提出 在1943年，心理学家Warren McCulloch和数学家Walter Pitts和最早描述了一种理想化的人工神经网络，并构建了一种基于简单逻辑运算的计算机制。他们提出的神经网络模型称为MP模型。 阿兰·图灵在1948年的论文中描述了一种“B型图灵机”。(赫布型学习) 1951年，McCulloch和Pitts的学生Marvin Minsky建造了第一台神经网络机，称为SNARC。 Rosenblatt [1958]最早提出可以模拟人类感知能力的神经
递归神经网络的发展史
03-07
递归神经网络（Recurrent Neural Network，RNN）是一种具有循环连接的神经网络结构，它在处理序列数据时具有很强的表达能力。下面是递归神经网络的发展史： 1. 1982年，递归神经网络的雏形被提出。Paul Werbos首次提出了反向传播算法的改进版本，用于训练具有循环连接的神经网络。 2. 1990年代，长短期记忆网络（Long Short-Term Memory，LSTM）被引入。LSTM是一种特殊类型的递归神经网络，通过引入门控机制解决了传统RNN中的梯度消失和梯度爆炸问题，大大提升了递归神经网络在处理长序列数据时的性能。 3. 2014年，门控循环单元（Gated Recurrent Unit，GRU）被提出。GRU是另一种解决梯度消失和梯度爆炸问题的递归神经网络结构，相比LSTM更加简洁，但在性能上与LSTM相当。 4. 近年来，基于递归神经网络的各种变体被广泛应用于自然语言处理、语音识别、机器翻译等领域。例如，双向递归神经网络（Bidirectional RNN）结合了正向和反向的信息流，提高了对序列数据的建模能力。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值