【2】激活函数与Loss函数求导

影响找到全局极小值点的几个主要的影响因素：

1）初始点的设置

2）学习率的设置，可能会影响收敛的精度与速度

ps : 处于一个全局极小值或者是鞍点的状态时，往往会影响实验效果

import torch
import torch.nn.functional as F
import matplotlib.pyplot as plt

# Jupyter notebook 中的魔法命令
%matplotlib inline