第八章神经网络8.5优化函数

一、引入：反向传播算法

二、优化器optimizer

使用方法：
1、实例化优化器对象并将其传入model.compile()

optimizer='adam'

2、通过名称调用优化器

optimizer=tf.keras.optimizers.Adam(learning_rate=0.001)

常见的优化函数：
SGD：随机梯度下降优化器，通过抽取m个独立同分布样本，计算平均梯度值。
RMSProp:常用于处理序列问题
Adam:修正后的Momentum+RMSProp算法，鲁棒性强，学习率建议率为0.001