【王木头学科学|深度学习】3.神经网络是什么？如何直接理解它的能力极限？它是如何无线逼近真理的

笔记来源于B站UP主@王木头学科学
笔记来源https://www.bilibili.com/video/BV1Yo4y1k7yU

1. 神经网络

上一节提到一个感知机的能力是有限的，它只能进行二分问题，而且这些数据必须是线性可分的，于是神经网络就出现了。

一个简单的神经网络由输入层，隐藏层，输出层组成

• 全连接网络
  下图的神经网络有一个特点，每一个节点都和下一层的节点全部连接，这样的神经网络也叫全连接网络；
• 前馈神经网络
  同时也可以看到数据的传递方向是单向的，它只会朝着神经网络一直向前传所以也叫前馈神经网络

• 卷积神经网络
  卷积神经网络不是一个全连接的网络，经过卷积和池化后已经把维度给降低了
  
• 循环神经网络
  可以看到只有一个节点，结构非常简单，但是在时序上把它展开后就变成这样的复杂结构