西瓜书课后题——第五章（神经网络）

最新推荐文章于 2023-08-02 01:40:56 发布

乂乂乂乂

最新推荐文章于 2023-08-02 01:40:56 发布

阅读量2.8k

点赞数

分类专栏：机器学习

本文链接：https://blog.csdn.net/qq_37691909/article/details/85338450

版权

本文通过编程实现了标准BP算法和累积BP算法，用于训练单隐层神经网络，并在西瓜数据集3.0上进行效果验证。实验结果显示，累积BP算法在达到相同精度时所需的训练次数显著少于标准BP算法，从而体现出更高的效率。

摘要由CSDN通过智能技术生成

课后题5.5：编程实现一个标准bp算法和一个累积bp算法，用这两个算法训练一个带有单隐层的网络，并给出在西瓜数据集3.0上的效果

首先，单隐层网络，就是输入和输出层之间只有一层神经元的网络，见西瓜书P102图 5.7所示

标准bp算法，如书上P102-104所述，每次更新参数只使用一个样本，所以到达收敛所需要训练的次数会比较多。

累积bp算法，每次更新参数时，使用的是所有的训练样本，也就是一个epoch之后再进行参数更新。所以训练次数可能比较少。

下面给出实现这两个算法的代码：

import numpy as np

def dataSet():
    # 西瓜数据集离散化
    X = np.mat('2,3,3,2,1,2,3,3,3,2,1,1,2,1,3,1,2;\
            1,1,1,1,1,2,2,2,2,3,3,1,2,2,2,1,1;\
            2,3,2,3,2,2,2,2,3,1,1,2,2,3,2,2,3;\
            3,3,3,3,3,3,2,3,2,3,1,1,2,2,3,1,2;\
            1,1,1,1,1,2,2,2,2,3,3,3,1,1,2,3,2;\
            1,1,1,1,1,2,2,1,1,2,1,2,1,1,2,1,1;\
            0.697,0.774,0.634,0.668,0.556,0.403,0.481,0.437,0.666,0.243,0.245,0.343,0.639,0.657,0.360,0.593,0.719;\
            0.460,0.376,0.264,0.318,0.215,0.237,0.149,0.211,0.091,0.267,0.057,0.099,0.161,0.198,0