NNDL 作业3：分别使用numpy和pytorch实现FNN例题

最新推荐文章于 2022-11-03 11:42:01 发布
最新推荐文章于 2022-11-03 11:42:01 发布
阅读量432 收藏 2
点赞数 1
分类专栏： NNDL实验 文章标签： pytorch numpy python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_51713698/article/details/127135938
版权

文章目录


分别使用numpy和pytorch实现FNN例题
1.过程推导 - 了解BP原理
2.数值计算 - 手动计算，掌握细节
3.代码实现 - numpy手推 + pytorch自动

代码实现：
在这里插入图片描述
1、 对比【numpy】和【pytorch】程序，总结并陈述。
2、激活函数Sigmoid用PyTorch自带函数torch.sigmoid()，观察、总结并陈述。
3、激活函数Sigmoid改变为Relu，观察、总结并陈述。
4、损失函数MSE用PyTorch自带函数 t.nn.MSELoss()替代，观察、总结并陈述。
5、损失函数MSE改变为交叉熵，观察、总结并陈述。
6、改变步长，训练次数，观察、总结并陈述。
7、权值w1-w8初始值换为随机数，对比“指定权值”的结果，观察、总结并陈述。
8、权值w1-w8初始值换为0，观察、总结并陈述。
9、全面总结反向传播原理和编码实现，认真写心得体会。

1.过程推导 - 了解BP原理

在这里插入图片描述

2.数值计算 - 手动计算，掌握细节

在这里插入图片描述

3.代码实现 - numpy手推 + pytorch自动

代码实现

使用numpy实现

import numpy as np

w1, w2, w3, w4, w5, w6, w7, w8 = 0.2, -0.4, 0.5, 0.6, 0.1, -0.5, -0.3, 0.8
x1, x2 = 0.5, 0.3
y1, y2 = 0.23, -0.07
print("输入值 x0, x1:", x1, x2)
print("输出值 y0, y1:", y1, y2)


def sigmoid(z):
    a = 1 / (1 + np.exp(-z))
    return a


def forward_propagate(x1, x2, y1, y2, w1, w2, w3, w4, w5, w6, w7, w8):
    in_h1 = w1 * x1 + w3 * x2
    out_h1 = sigmoid(in_h1)
    in_h2 = w2 * x1 + w4 * x2
    out_h2 = sigmoid(in_h2)

    in_o1 = w5 * out_h1 + w7 * out_h2
    out_o1 = sigmoid(in_o1)
    in_o2 = w6 * out_h1 + w8 * out_h2
    out_o2 = sigmoid(in_o2)

    print("正向计算，隐藏层h1 ,h2：", end="")
    print(round(out_h1, 5), round(out_h2, 5))
    print("正向计算，预测值o1 ,o2：", end="")
    print(round(out_o1, 5), round(out_o2, 5))

    error = (1 / 2) * (out_o1 - y1) ** 2 + (1 / 2) * (out_o2 - y2) ** 2

    print("损失函数(均方误差)：",round(error, 5))

    return out_o1, out_o2, out_h1, out_h2


def back_propagate(out_o1, out_o2, out_h1, out_h2):
    # 反向传播
    d_o1 = out_o1 - y1
    d_o2 = out_o2 - y2

    d_w5 = d_o1 * out_o1 * (1 - out_o1) * out_h1
    d_w7 = d_o1 * out_o1 * (1 - out_o1) * out_h2
    d_w6 = d_o2 * out_o2 * (1 - out_o2) * out_h1
    d_w8 = d_o2 * out_o2 * (1 - out_o2) * out_h2

    d_w1 = (d_o1 * out_h1 * (1 - out_h1) * w5 + d_o2 * out_o2 * (1 - out_o2) * w6) * out_h1 * (1 - out_h1) * x1
    d_w3 = (d_o1 * out_h1 * (1 - out_h1) * w5 + d_o2 * out_o2 * (1 - out_o2) * w6) * out_h1 * (1 - out_h1) * x2
    d_w2 = (d_o1 * out_h1 * (1 - out_h1) * w7 + d_o2 * out_o2 * (1 - out_o2) * w8) * out_h2 * (1 - out_h2) * x1
    d_w4 = (d_o1 * out_h1 * (1 - out_h1) * w7 + d_o2 * out_o2 * (1 - out_o2) * w8) * out_h2 * (1 - out_h2) * x2

    print("w的梯度:",round(d_w1, 2), round(d_w2, 2), round(d_w3, 2), round(d_w4, 2), round(d_w5, 2), round(d_w6, 2),
          round(d_w7, 2), round(d_w8, 2))

    return d_w1, d_w2, d_w3, d_w4, d_w5, d_w6, d_w7, d_w8


def update_w(w1, w2, w3, w4, w5, w6, w7, w8):
    # 步长
    step = 1
    w1 = w1 - step * d_w1
    w2 = w2 - step * d_w2
    w3 = w3 - step * d_w3
    w4 = w4 - step * d_w4
    w5 = w5 - step * d_w5
    w6 = w6 - step * d_w6
    w7 = w7 - step * d_w7
    w8 = w8 - step * d_w8
    return w1, w2, w3, w4, w5, w6, w7, w8


if __name__ == "__main__":

    print("权值w0-w7:",round(w1, 2), round(w2, 2), round(w3, 2), round(w4, 2), round(w5, 2), round(w6, 2), round(w7, 2),
          round(w8, 2))


    for i in range(5):
        print("=====第" + str(i+1) + "轮=====")
        out_o1, out_o2, out_h1, out_h2 = forward_propagate(x1, x2, y1, y2, w1, w2, w3, w4, w5, w6, w7, w8)
        d_w1, d_w2, d_w3, d_w4, d_w5, d_w6, d_w7, d_w8 = back_propagate(out_o1, out_o2, out_h1, out_h2)
        w1, w2, w3, w4, w5, w6, w7, w8 = update_w(w1, w2, w3, w4, w5, w6, w7, w8)

    print("更新后的权值w:",round(w1, 2), round(w2, 2), round(w3, 2), round(w4, 2), round(w5, 2), round(w6, 2), round(w7, 2),
          round(w8, 2))

运行结果：

在这里插入图片描述

使用pytorch实现

import torch

x = [0.5, 0.3]  # x0, x1 = 0.5, 0.3
y = [0.23, -0.07]  # y0, y1 = 0.23, -0.07
print("输入值 x0, x1:", x[0], x[1])
print("输出值 y0, y1:", y[0], y[1])
w = [torch.Tensor([0.2]), torch.Tensor([-0.4]), torch.Tensor([0.5]), torch.Tensor(
    [0.6]), torch.Tensor([0.1]), torch.Tensor([-0.5]), torch.Tensor([-0.3]), torch.Tensor([0.8])]  # 权重初始值
for i in range(0, 8):
    w[i].requires_grad = True
print("权值w0-w7:")
for i in range(0, 8):
    print(w[i].data, end="  ")


def forward_propagate(x):  # 计算图
    in_h1 = w[0] * x[0] + w[2] * x[1]
    out_h1 = torch.sigmoid(in_h1)
    in_h2 = w[1] * x[0] + w[3] * x[1]
    out_h2 = torch.sigmoid(in_h2)

    in_o1 = w[4] * out_h1 + w[6] * out_h2
    out_o1 = torch.sigmoid(in_o1)
    in_o2 = w[5] * out_h1 + w[7] * out_h2
    out_o2 = torch.sigmoid(in_o2)

    print("正向计算，隐藏层h1 ,h2：", end="")
    print(out_h1.data, out_h2.data)
    print("正向计算，预测值o1 ,o2：", end="")
    print(out_o1.data, out_o2.data)

    return out_o1, out_o2


def loss(x, y):  # 损失函数
    y_pre = forward_propagate(x)  # 前向传播
    loss_mse = (1 / 2) * (y_pre[0] - y[0]) ** 2 + (1 / 2) * (y_pre[1] - y[1]) ** 2  # 考虑 ： t.nn.MSELoss()
    print("损失函数(均方误差)：", loss_mse.item())
    return loss_mse


if __name__ == "__main__":
    for k in range(5):
        print("\n=====第" + str(k+1) + "轮=====")
        l = loss(x, y)  # 前向传播，求 Loss，构建计算图
        l.backward()  # 反向传播，求出计算图中所有梯度存入w中. 自动求梯度，不需要人工编程实现。
        print("w的梯度: ", end="  ")
        for i in range(0, 8):
            print(round(w[i].grad.item(), 2), end="  ")  # 查看梯度
        step = 1  # 步长
        for i in range(0, 8):
            w[i].data = w[i].data - step * w[i].grad.data  # 更新权值
            w[i].grad.data.zero_()  # 注意：将w中所有梯度清零
        print("\n更新后的权值w:")
        for i in range(0, 8):
            print(w[i].data, end="  ")

运行结果：
在这里插入图片描述
在这里插入图片描述

1、 对比【numpy】和【pytorch】程序，总结并陈述。

总结：通过观察结果发现都十分相近，因此可认为两种方法的求解效果基本相同，可认为这两种方法的求解效果基本相同。

2、激活函数Sigmoid用PyTorch自带函数torch.sigmoid()，观察、总结并陈述。

sigmoid函数表达式：
在这里插入图片描述

def forward_propagate(x1, x2):
    in_h1 = w1 * x1 + w3 * x2
    out_h1 = torch.sigmoid(in_h1)
    in_h2 = w2 * x1 + w4 * x2
    out_h2 = torch.sigmoid(in_h2)
    in_o1 = w5 * out_h1 + w7 * out_h2
    out_o1 = torch.sigmoid(in_o1)
    in_o2 = w6 * out_h1 + w8 * out_h2
    out_o2 = torch.sigmoid(in_o2)
 
    print("正向计算：o1 ,o2")
    print(out_o1.data, out_o2.data)
 
    return out_o1, out_o2

没有较为明显的差异

3、激活函数Sigmoid改变为Relu，观察、总结并陈述。

Relu函数的数学形式是:
在这里插入图片描述

def Relu(z):
    if z<=0:
        b = 0
    return b
 
 
def forward_propagate(x1, x2):
    in_h1 = w1 * x1 + w3 * x2
    out_h1 = Relu(in_h1)
    in_h2 = w2 * x1 + w4 * x2
    out_h2 = Relu(in_h2)
    in_o1 = w5 * out_h1 + w7 * out_h2
    out_o1 = Relu(in_o1)
    in_o2 = w6 * out_h1 + w8 * out_h2
    out_o2 = Relu(in_o2)
 
    print("正向计算：o1 ,o2")
    print(out_o1.data, out_o2.data)
 
    return out_o1, out_o2

运行结果：
在这里插入图片描述

Relu激活函数收敛速度要优于使用sigmoid激活函数。

4、损失函数MSE用PyTorch自带函数 t.nn.MSELoss()替代，观察、总结并陈述。
def loss_function(x1, x2, y1, y2):  # 损失函数
    y1_pred, y2_pred = forward_propagate(x1, x2)  # 前向传播
    # loss = (1 / 2) * (y1_pred - y1) ** 2 + (1 / 2) * (y2_pred - y2) ** 2  # 考虑 ： t.nn.MSELoss()
    loss_func = torch.nn.MSELoss() # 创建损失函数
    y_pred = torch.cat((y1_pred, y2_pred), dim=0) # 将y1_pred, y2_pred合并成一个向量
    y = torch.cat((y1, y2), dim=0) # 将y1, y2合并成一个向量
    loss = loss_func(y_pred, y) # 计算损失
    print("损失函数（均方误差）：", loss.item())
    return loss

通过运行结果观察发现自带函数和原先编写的函数运行结果相同

5、损失函数MSE改变为交叉熵，观察、总结并陈述。
def loss_function(x1, x2, y1, y2):
    y1_pred, y2_pred = forward_propagate(x1, x2)
    loss_func = torch.nn.CrossEntropyLoss() # 创建交叉熵损失函数
    y_pred = torch.stack([y1_pred, y2_pred], dim=1)
    y = torch.stack([y1, y2], dim=1)
    loss = loss_func(y_pred, y) # 计算
    print("损失函数（交叉熵损失）：", loss.item())
    return loss

运行结果：
在这里插入图片描述

改为交叉熵之后损失函数出现负数。

6、改变步长，训练次数，观察、总结并陈述。

step=1:
在这里插入图片描述

step=10:
在这里插入图片描述
训练次数一定的情况下，步长从1到10，均方误差下降越快，收敛越快。
在这里插入图片描述
步长一定的情况下，随着训练次数从10到50，均方误差下降速度也在逐渐降低，收敛速度也就下降了。

7、权值w1-w8初始值换为随机数，对比“指定权值”的结果，观察、总结并陈述。
w = [torch.randn(1, 1), torch.randn(1, 1), torch.randn(1, 1), torch.randn(1, 1), torch.randn(1, 1), torch.randn(1, 1), torch.randn(1, 1), torch.randn(1, 1) ]
 # 权重初始值

训练1轮：
在这里插入图片描述
训练30轮：
在这里插入图片描述

训练50轮：
在这里插入图片描述
权重的初始化不会影响收敛的结果，均方误差的下降速度与指定权值时相比有所降低，收敛速度小于指定权值

8、权值w1-w8初始值换为0，观察、总结并陈述。

训练1轮：
在这里插入图片描述

训练30轮：
在这里插入图片描述

训练50轮：
在这里插入图片描述

9、全面总结反向传播原理和编码实现，认真写心得体会。

通过此次的实验，我更加深入的了解了反向传播算法，更加详细地解到了修改代码中激活函数、损失函数、步长、训练次数、权重的值对结果的影响。

plum-blossom
关注
专栏目录
6.4 tensorflow2实现FNN推荐系统——Python实战（第二篇）
炫云云
03-24 2766
带你全面理解实现FNN模型，使用tensorflow2从零开始构建。 完成FNN模型 Criteo数据 数据处理 完整代码 tensorflow2实现 构建FM模型 构建DNN模型 构建FNN 训练与预测 感谢你的阅读，专栏文章持续更新，希望感兴趣的伙伴点个赞，关注不迷路！你的支持是我前进的动力！ 深耕于机器学习算法、深度学习、数据分析等领域，希望我这微不足道的知识能帮到您。
十一、机器学习进阶知识：模糊神经网络（FNN）的实现（Python，附源码及数据集）
热门推荐
weixin_42051846的博客
02-27 1万+
本文对模糊神经网络（FNN）的理论基础及建模步骤进行介绍，之后使用Python实现基于FNN的数据预测，通俗易懂，适合新手学习，附源码及实验数据集。
【Pytorch(一)】Numpy 基础练习
Ws_zqw的博客
01-17 1181
Numpy 基础练习 1. Import Numpy 2. 创建 Numpy 数组 3. 一些常用的 Numpy 函数 4. 用 Numpy 实现矩阵运算
【学习实践】使用numpy搭建一个简单的前馈神经网络FNN
JinyuZ1996的博客
08-24 1650
深度学习小实验 - 使用numpy搭建一个简单的前馈神经网络FNN 　　在天池上学习深度学习做的笔记，简单实现了一个FNN（非常简单），留以备忘。 实验实现的逻辑标示图 实验代码 # Author:JinyuZ1996 # Creation date:2020/8/24 10:28 import numpy as np # 一个基本的5输入单元*4神经元*2输出单元的简单网络 x = np.array([0.5, 0.4, 0.3, 0.4, 0.5]) # 输入层有5个输入,[1*5
基于TensorFlow的FNN模型——MNIST手写数字识别器（一）之前言【开源】
qq_41959920的博客
04-19 994
MNIST手写数字识别器 ——基于TensorFlow的FNN模型 目录 前言 （1）读取的MNIST图片数据可视化效果 （2）训练模型的TensorBoard效果 （3）测试模型的可视化效果 （4）本项目开源地址等附加信息 前言 本项目是作者（MRL Liu）基于TensorFlow框架训练的一个全连接网络的手写数字识别器，是作者一个阶段总结性项目。 基于MNIST的手写数字识别项目已是深度学习入门的必备项目，但区别于其他，本项目的特色是添加了： 模型的保存与加载功能、TensorF
python FNN
最新发布
09-05
- *2* [NNDL 作业3：分别使用numpy和pytorch实现FNN例题](https://blog.csdn.net/qq_51713698/article/details/127135938)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":...
锻炼：锻炼nndl
02-26
本次作业需要首先安装anaconda3下载地址 2.0 pytorch> 0.4 锻炼 1.热身练习热身 numpy是Python中对于矩阵处理很实用的工具包，本小节作业主要是熟悉基本的numpy操作。 2.线性回归模型 3.线性模型 支持向量机 Softmax...
NNDL 实验六 卷积神经网络（3）LeNet实现MNIST
m0_59158839的博客
11-03 633
LeNet
NNDL 实验五 前馈神经网络（3）鸢尾花分类
weixin_63539289的博客
10-14 915
  鸢尾花数据集也就是iris数据集，是一个非常经典的数据集，各路大神一定并不陌生。这次实验我们就以此为实验来源，对鸢尾花进行分类。为防止有的同学不知道这个数据集，下面给出这个数据集以及可视化深入了解一下。 可视化的代码如下： 结果如图所示：   继续使用NNDL 实验四 线性分类的鸢尾花分类任务，上面给出了iris数据集的介绍。将Softmax分类器替换为前馈神经网络。  批量梯度下降法： 在梯度下降法中，目标函数是整个训练集上的风险函数，这种方式称为批量梯度下降法（Batch Gradient Des
（二、1NN_QI）Tensorflow实例简介——前馈神经网络FNN
Minion_Yellow的博客
03-09 922
【第二章】TensorFlow简介 从本篇内容开始作为从<神经网路基础到量化投资应用>系列笔记的第二部分，主要用于神经网络的实现，由于自己不是计算机专业，所以许多语言的知识就不再细说，写博客的目的就是最终可以写完一个完整的模型，可以使用，并且知道为什么这么写。本篇内容主要想写4部分，第一节全连接神经神经网络，第二节卷积神经网络（CNN），第三节循环神经网络（RNN），第四节为一些扩展和...
Tensorflow入门与实战学习笔记（十三）-FNN图像语义分割
忆_恒心的博客
08-23 805
图像语义分割 上图为语义分割的一个实例，其目标是预测出图像中每一个像素的类标签 图像语义分割是图像处理和是计算机视觉技术中关于图像理解的重要一环 语义分割对图像中每一个像素点 我们只对类别进行分割，不对实体进行分割 应用场景： 1、自动驾驶起床 2、医学图像诊断 3、无人机着陆点判断 ...
CTR --- FNN原理，及tf2实现
WGS.
01-07 729
文章目录提出动机解决方案结构作用优缺点tf2实现 提出动机 解决方案 结构 作用 优缺点 tf2实现 # coding:utf-8 # @Email: wangguisen@infinities.com.cn # @Time: 2022/1/4 3:26 下午 # @File: ctr_FNN.py ''' FNN ''' import numpy as np import tensorflow as tf from tensorflow.keras import layers from te
19【推荐系统13】FNN——TensorFlow2实现
炫云云
03-24 1265
带你全面理解实现FNN模型，使用tensorflow2从零开始构建。 完成1、简介 2、FNN模型 Embedding层 DNN tensorflow2实现 3、训练 4、优缺点 感谢你的阅读，专栏文章持续更新，希望感兴趣的伙伴点个赞，关注不迷路！你的支持是我前进的动力！ 深耕于机器学习算法、深度学习、数据分析等领域，希望我这微不足道的知识能帮到您。
FNN
zhangbaoanhadoop的博客
08-12 8820
FM(first-order+second-order)-&gt;DNN 网络结构 缺点： 不能对低阶特征拟合，需要预训练模型。
【深度学习原理第1篇】前馈神经网络，感知机，BP神经网络
小样yx的博客
11-09 6763
前馈神经网络（FNN） 前馈神经网路是一种单向多层的网络结构，信息从输入层开始，逐层向一个方向传递，即单向传递，一直到输出层结束。前馈的意思就是指传播方向指的是前向。前馈神经网络由三部分组成：输入层（第0层），输出层（最后一层），中间部分称为隐藏层，隐藏层可以是一层，也可以是多层 。FNN如下图所示，其中圆圈是神经元。 学习神经网络前向传播与反向传播推导过程必须了解，这是许多网络的基础，推荐下面的up主视频，用案例来讲解底层传播与机理，并做出了推导，跟着推一遍，理解会更深刻，不然后面学习就可能一知半解了
1- 深度学习之神经网络核心原理与算法-前馈神经网络
weixin_33794672的博客
04-03 2495
前馈神经网络 Feedforward Neural Network 网络结构(一般分两种) Back Propagation Networks - 反向传播网络 RBF networks - 径向基函数神经网络 BP网络是所有的神经网络中结构最为简单的一种网络。 一般我们习惯把网络画成左边输入右边输出层的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值