深度学习
Realmhang
空
展开
-
tensorflow常用优化器总结
反向传播算法和梯度下降算法用来调整神经网络中参数的取值,梯度下降算法主要用于优化单个参数的取值,反向传播算法给出了高效的方式在所有参数上使用梯度下降算法,来使得神经网络模型的损失函数尽可能小。Tensorflow提供了多种方式实现反向传播和梯度下降过程,通用的方式为:tf.train.GradientDescentOptimizer(learning_rate = 0.1).minimize(lo...原创 2018-09-12 17:12:09 · 531 阅读 · 0 评论 -
几种经典神经网络的结构
#AlexNet2012年出现的一个8层卷积神经网络,ILSVRC比赛Top5错误率达到了15.315%。AlexNet使用了5个卷积层(包括3个pooling层和2个norm层)、3个全连接层,总共60M个参数。#ZF-Net2013年提出的一个算法,Top5错误率达到了11.743%。所采用的神经网络框架几乎和AlexNet一样,区别仅仅是把第一个卷积层的卷积核尺寸从11*11修改...原创 2018-07-17 09:09:48 · 6378 阅读 · 0 评论