人工智能-作业2：例题程序复现

+51

已于 2022-05-08 10:29:22 修改

阅读量521

点赞数 1

分类专栏：人工智能实验文章标签： python 人工智能

于 2022-04-30 18:22:11 首次发布

本文链接：https://blog.csdn.net/qq_51776413/article/details/124516127

版权

本文详细介绍了反向传播算法的工作原理，包括计算过程和参数更新，并提供了Python代码实现，展示了权重更新如何逐步优化模型，降低损失函数。经过多次迭代，最终得到更新后的权值。

摘要由CSDN通过智能技术生成

反向传播算法的原理是利用链式求导法则计算实际输出结果与理想结果之间的损失函数对每个权重参数或偏置项的偏导数，然后根据优化算法逐层反向地更新权重或偏置项，它采用了前向-后向传播的训练方式，通过不断调整模型中的参数，使损失函数达到收敛，从而构建准确的模型结构。

在这里插入图片描述

计算过程：

(w5~w8)以w5为例的梯度计算过程
在这里插入图片描述
(w1~w4)以w1为例的梯度计算过程：

参数更新过程：

在这里插入图片描述

def update_w(w1, w2, w3, w4, w5, w6, w7, w8):
    # 步长
    step = 5
    w1 = w1 - step * d_w1
    w2 = w2 - step * d_w2
    w3 = w3 - step * d_w3
    w4 = w4 - step * d_w4
    w5 = w5 - step * d_w5
    w6 = w6 - step * d_w6
    w7 = w7 - step * d_w7
    w8 = w8 - step * d_w8
    return w1, w2, w3, w4, w5, w6, w7, w8

重复计算可以不断修正w的值。

代码实现

import numpy as np


def sigmoid(z):
    a = 1 / (1 + np.exp(-z))
    return a


def forward_propagate(x1, x2, y1, y2, w1, w2, w3, w4, w5, w6, w7, w8):
    in_h1 = w1 * x1 + w3 * x2
    out_h1 = sigmoid(in_h1)
    in_h2 = w2 * x1 + w4 * x2
    out_h2 = sigmoid(in_h2)

    in_o1 = w5 * out_h1 + w7 * out_h2
    out_o1 = sigmoid(in_o1)
    in_o2 = w6 * out_h1 + w8 * out_h2
    out_o2 = sigmoid(in_o2)

    print("正向计算：o1 ,o2")
    print(round(out_o1, 5), round(out_o2, 5))

    error = (1 / 2) * (out_o1 - y1) ** 2 + (1 / 2) * (out_o2 - y2) ** 2