【学习记录】神经网络三种主要类型

1.图结构

图网络是定义在图结构数据上的神经网络：①图中每个节点都由一个或一组神经元组成②节点之间连接可以有向可以无向③每个节点可接收来自相邻节点或自身的信息。

2.前馈神经网络

前馈神经网络中，把每个神经元接受信息的先后分为不同的组，每一组可以看做一个神经层，每一层中的神经元接受前一层神经元的输出，并输出到下一层神经元，整个网络中的信息是朝着同一个方向传播的，没有反向的信息传播，包括全连接前馈神经网络和卷积神经网络。可以看作是一个函数，通过简单的非线性函数的多次复合，实现输入空间到输出空间复杂映射

3.反馈神经网络

反馈神经网络中的神经元，不仅可以接受来自其他神经元的信号，而且可以接受自己的反馈信号。和前馈神经网络相比，反馈神经网络中的神经元具有记忆功能，在不同时刻具有不同的状态，反馈神经网络中信息传播可以是单向的，也可以是双向传播，包括循环神经网络、Hopfield网络和玻尔兹曼机。为了进一步增强记忆网络的记忆容量，可从映入外部记忆单元和读写机制，用来保存一些网络中的中间状态，称为记忆增强网络，比如神经图灵机。