- 全连接网络
- Deep network 其实是矩阵操作,权重矩阵乘以输入向量,加上bias向量即可
Backpropagation
keras
- 感觉这个很形象
- keras创建神经网络的步骤:
model = Sequential()
model.add(Dense(input_dim = 28* 28, output = 500))
model.add(Acivation(‘sigmoid ’))
-
定义损失函数
-
进行训练
- 训练过程中,不会选取所有的样本的loss进行参数更新,而是选择大小为mini_batch的样本进行参数训练;将所有的mini_batch训练完成一次,为一个epoch;整个训练过程有10几个epoch。由于GPU的并行运算方式
- 利用keras进行模型效果评定和预测