神经网络
peyogoat
这个作者很懒,什么都没留下…
展开
-
反向传播算法BP的基本介绍
机器学习可以看做是数理统计的一个应用,在数理统计中一个常见的任务就是拟合。深度学习同样也是为了这个目的,只不过此时,样本点不再限定为(x, y)点对,而可以是由向量、矩阵等等组成的广义点对(X,Y)。 而此时,(X,Y)之间的关系也变得十分复杂,不太可能用一个简单函数表示。然而,人们发现可以用多层神经网络来表示这样的关系,而多层神经网络的本质就是一个多层复合的函数。神经网络示意图相应的表达式转载 2017-02-21 17:23:27 · 1062 阅读 · 0 评论 -
深度神经网络(DNN)、卷积神经网络(CNN)、循环神经网络(RNN)(神经网络的基础知识)
深度神经网络(DNN)最初,我们常常使用sigmoid作为神经网络神经元的输入输出函数。那时,我们把神经网络称作“多层感知机”。对于幅度为1的信号,在多层的神经元之间传播时,每传递一层,梯度衰减为原来的0.25。层数一多,梯度指数衰减,低层基本上接受不到有效的训练信号。 为了克服梯度消失,ReLU、maxout等传输函数代替了sigmoid,形成了如今深度神经网络(DNN)的基本形式。 高速公路转载 2017-02-21 18:13:20 · 2262 阅读 · 0 评论