将之前写过的代码进行一下整理和汇总:
ANN训练Mnist
使用TensorFlow框架和手写数字识别数据集MNIST训练,运行环境为Python3.6、TensorFlow1.8。
完整代码已经上传github
神经网络搭建过程总结如下:
step1.超参数设定:如学习率、权重衰减、动量。
Learning_RATE=0.1
MOMENTUM = 0.9
WEIGHT_DECAY = 0.0001
神经网络参数设定。
model = MLP('fully_model', N_CLASSES, BATCH_SIZE, g, [50,50])
这里设计两个隐藏层,层数分别为50、50的ANN网络。
step2.实现全连接。
def fullyconnected(self, name, _input, out_channel):
shape = _input.get_shape()
if len(shape) == 4:
size = shape[1].value * shape[2].value * shape[3].value
else:
size = shape[-1].value
with tf.variable_scope(name):
w = tf.get_variable(
name='weights',
shape=[size, out_channel],