【AI作业--6】

梯度下降
梯度下降法是一个一阶最优化算法，通常也称为最陡下降法 ，要使用梯度下降法找到一个函数的局部极小值 ，必须向函数上当前点对应梯度的反方向的规定步长距离点进行迭代搜索。
反向传播
反向传播算法是适合于多层神经元网络的一种学习算法，它建立在梯度下降法的基础上。BP网络的输入输出关系实质上是一种映射关系：一个n输入m输出的BP神经网络所完成的功能是从n维欧氏空间向m维欧氏空间中一有限域的连续映射，这一映射具有高度非线性。
计算图
计算图是一种数据结构，用于表示计算过程。具体来说，计算图是一组节点和边组成的图，其中节点表示计算单元，边表示数据流动，即数据在计算单元之间的传递。在深度学习中，计算图用于表示神经网络的计算过程，可以帮助我们更好地理解和调试网络。TensorFlow、PyTorch 等深度学习框架中都使用了计算图，可以通过它来构建、训练和评估神经网络。
Numpy编程实现例题

使用PyTorch的Backward()编程实现例题