1. 递归神经网络(Recurrent Neural Network)
RNN被用来根据先前的数据样本预测未来的数据序列,并且学习过程中没有用到类别信息。RNN非常适合序列数据,例如语音、文本。
?很难训练来捕捉长时相关性。
梯度弥散
梯度爆炸
2.Epochs :是根据输出的误差,调整神经元的权值和阈值的次数。
3.Minibatch和fullbatch
mini-batch指的就是分批处理,它的错误率表示的:每一次epoch中,所有的小batch的平均损失函数值;而full-batch是完整的数据集,它的错误率表示:一次epoch中,整个大batch的损失函数值
4.Mnist
MNIST,一个经典的手写数字库,包含60000个训练样本和10000个测试样本,图片大小28*28