weixin_47037146的博客

什么是梯度我也不知道什么是梯度。从中学学的倒数说起，倒数反应了函数沿某个方向的变化率。然后就到了偏微分，偏微分是限定沿给定方向的变化率，而梯度就是函数关于所有自变量偏微分组成的向量。梯度的方向反应了函数上升或下降的方向，而梯度的大小反映了下降或上升的快慢。梯度下降：θi∗=θi−eps∗∂y∂θi\theta_{i}^{*}=\theta_{i}-eps*\frac{\partial y}{\partial \theta_{i}}θi∗​=θi​−eps∗∂θi​∂y​,梯度下降时会遇到局部最小值的问题

基本数据类型Tensortensor是pytorch中的特殊数据类型，和numpy的数组类似，不过tensor可以在GPU和其他加速器上运行。初始化tensor直接从数据初始化data = [xxx]x_data = torch.tensor(data)从numpy数据初始化x_data = torch.from_numpy(np.array())从其他tensor初始化...