CNN、RNN、DNN、自动编码器、DBRN的发展历程
一、神经网络的来源 神经网络技术起源于上世纪五、六十年代,当时叫感知机(单层感知机),包含有输入层、输出层和一个隐藏层。输入的特征向量通过隐藏层变换到达输出层,由输出层得到分类结果。但早期的单层感知机存在一个严重的问题——它对稍微复杂一些的函数都无能为力(如异或操作)。直到上世纪八十年代才被Hition、Rumelhart等人发明的多层感知机克服,就是具有多层隐藏层的感知机。 多层感知机可以摆脱早期离散传输函数的束缚,使用sigmoid或tanh等连续函数模拟神经元对激励的响应,...
转载
2022-04-06 10:51:04 ·
2372 阅读 ·
1 评论