- 博客(2)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 笔记——学习率衰减
加快学习的一个办法就是学习率衰减。假设你要使用mini-batch梯度下降法，mini-batch数量不大，大概64或者128个样本， 在迭代过程中会有噪音，下降朝向这里的最小值，但是不会精确地收敛，所以你的算法最后在附近摆动，并不会真正收敛，因为你用的学习率是固定值，不同的mini-batch中有噪音。但要慢慢减少学习率的话，在初期的时候，学习率还较大，你的学...
2019-08-30 19:06:10
363
原创 新课题1——深度学习世界的hello world(python识别mnist数据集)
mnist数据集是一款比较经典的各种手写数字体的集合，一般被初学者用来练手我使用的框架为tensorflow，前面主要未解决的问题是BP神经网络的反向传播，所以在这里使用了tf框架。下面开始我的项目搭建过程。步骤：0加载数据集的数据import numpy as npimport matplotlib.pyplot as pltfrom keras.datasets im...
2019-08-30 17:31:27
428
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人