优化器：Adam

Adam文档介绍（Pytorch）：

本文在《Adam:随机优化方法》一书中提出了这一方法。

参数介绍：

params (iterable):可迭代对象的参数优化或dict定义参数组;

lr (float, optional):学习速率(默认值:1e-3);

betas (Tuple[float, float], optional):用于计算的系数(默认值:(0.9,0.999));

eps (float, optional):项加到分母上改进数值稳定性(默认值:1e-8);

weight_decay (float, optional):权重衰减(L2惩罚)(默认值:0);

amsgrad (boolean, optional):是否使用这个的AMSGrad变体从论文“关于Adam和Beyond的收敛性”_(默认值:False);