3-2 梯度与反向传播
主目录点这里
梯度的含义
可以看到红色区域的变化率较大,梯度较大;绿色区域的变化率较小,梯度较小。
在二维情况下,梯度向量的方向指向函数增长最快的方向,而其大小表示增长的速率。
梯度的计算
当然我们不必学太深的纯运算,来看看python是怎么解决的
import numpy as np
import matplotlib.pyplot as plt
import sympy as sp
def gradient(f, variables, point):
gradients = [sp.diff(f, var) for var in variables]
gradient_at_point = [grad.evalf(subs=dict(zip(variables