周志华《机器学习》课后习题解答系列（六）：Ch5.5 - BP算法实现

最新推荐文章于 2023-03-18 10:33:52 发布
最新推荐文章于 2023-03-18 10:33:52 发布
阅读量8.8k 收藏 40
点赞数 4
分类专栏： 机器学习 文章标签： 机器学习 神经网络 bp算法 python pybrain
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Snoopy_Yuan/article/details/70230862
版权
该博客介绍了如何使用Python的PyBrain库实现BP神经网络，包括标准BP和累积BP算法。作者通过西瓜数据集进行预处理，进行独热编码，并比较了两种算法在训练和预测精度上的差异，发现累积BP算法在精度上略胜一筹，但计算时间更长。同时，由于数据集样本量有限，模型精度不高。
摘要由CSDN通过智能技术生成

这里的编程基于Python-PyBrain。Pybrain是一个以神经网络为核心的机器学习包，相关内容可参考神经网络基础 - PyBrain机器学习包的使用

相关答案和源代码托管在我的Github上：PY131/Machine-Learning_ZhouZhihua.

5.5 BP算法实现

这里写图片描述
这里写图片描述

编码基于Python实现（这里查看完整代码和数据集）；

实验过程：基于PyBrain分别实现标准BP和累积BP两种算法下的BP网络训练，并进行比较；

1.算法分析

参考书上推导及算法图5.8，首先给出BP算法的两种版本示意如下：

Algorithms 1. 标准BP算法
----
    输入： 训练集 D&#
最低0.47元/天 解锁文章
Snoopy_Yuan
关注
  • 4
    点赞
  • 踩
  • 40
    收藏
    觉得还不错? 一键收藏
  • 10
    评论
专栏目录
机器学习-周志华-课后习题答案5.5
qilixuening的博客
03-17 4547
5.5 试编程实现标准BP算法和累计BP算法，在西瓜数据集3.0上分别用这两个算法训练一个单隐层网络，并进行比较。 通过编程实践发现，在本例下要达到某一限定的均方误差时，标准BP算法比累积BP算法明显收敛更快，特别在本例中，将ABP算法误差设定到0.01时，其更新权重次数十分庞大。 本人采用标准BP算法（隐层10个神经元）获取数据集在误差小于0.01时的各项权重算得其错误率为2/17，训练29
机器学习（周志华）学习笔记五：第五章习题5.5
mddh_123的博客
02-18 1037
一、神经网络 神经网络通过隐层（中间层）的变换，增加了超平面的划分能力。然而，在对神经网络的学习中，没有看到关于隐层神经元数量选择的解释。也就是说，在神经网络理论中似乎并没有考虑到网络结构对输出结果产生的影响。 二、代码实现 def calculate(self, input_values): """ :param input_values: [color...
转载：BP（反向传播算法）公式推导及例题解析
ChunleiYi的博客
03-07 8735
首发于深度学习与我的那些事写文章BP（反向传播算法）公式推导及例题解析WILL深度学习搬砖者​关注他297 人赞同了该文章写在前面：最近赶上《模式识别》课程考试，就把BP重新复习了下。猜测老师可能会出这方面的计算题（hhh，也是不知道我哪里来的自信），就学习了Matt Mazur博客的例题。（再加一句废话：其实在我之前，已经有前辈 @EdisonGzq 写过了，觉得还是有必要自己推，所以就画蛇添足了）这里我们使用两个输入、隐含层两个神经元、两个输出，其中隐含层和输出层都有偏置，结构如下：为了能够保证传播过程
周志华《机器学习》课后习题解答系列（七）：Ch6.3 - SVM对比实验
Snoopy_Yuan技术部落格
07-06 5015
采用UCI-Breast Cancer数据集进行分类实验，对比分析了SVM/BP网络/C4.5决策树...
西瓜书《机器学习》第六章部分课后题
感谢一切无私开源共享奉献者！
07-30 7780
目录题目6.1 题目6.1 试证明样本空间中任意点x\bm{x}x到超平面(w,b)(\bm{w}, b)(w,b)的距离为式(6.2) 假设点x\bm{x}x在超平面上的投影为x′\bm{x}'x′，则wTx′+b=0\bm{w}^{\text{T}} \bm{x}' + b = 0wTx′+b=0。超平面的法向量为w\bm{w}w，其与x−x′\bm{x...
周志华《机器学习》课后习题解答系列（六）：Ch5.6 - BP算法改进
Snoopy_Yuan技术部落格
04-27 1万+
引入“动量项+自适应学习率”来进行BP算法改进，采用iris数据集进行了改进前后对比实验。
周志华-机器学习-习题5.5 BP算法.zip
04-09
机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。它专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的...
机器学习周志华课后习题编程题，Python实现
01-02
4.10 从网上下载或自己编程实现任意一种多变量决策树算法，并观察其在西瓜数据集3.0上产生的结果。 5.10 从网上下载或自己编程实现一个卷积神经网络并在手写字符识别数据 MNIST 上进行实验测试。 6.8 以西瓜数据集 ...
周志华《机器学习》课后习题个人解答
01-30
周志华《机器学习》课后习题个人解答。各算法都拿numpy和pandas实现了一遍
周志华机器学习课后习题代码（自己写的非标准答案）.zip
最新发布
04-17
机器学习是一种人工智能（AI）的子领域，致力于研究如何利用数据和算法让计算机系统具备学习能力，从而能够自动地完成特定任务或者改进自身性能。机器学习的核心思想是让计算机系统通过学习数据中的模式和规律来实现...
Python编程实现周志华《机器学习》课后习题.zip
04-12
机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。它专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的...
一文弄懂神经网络中的反向传播法——BackPropagation
weixin_30757793的博客
06-30 3375
　　最近在看深度学习的东西，一开始看的吴恩达的UFLDL教程，有中文版就直接看了，后来发现有些地方总是不是很明确，又去看英文版，然后又找了些资料看，才发现，中文版的译者在翻译的时候会对省略的公式推导过程进行补充，但是补充的又是错的，难怪觉得有问题。反向传播法其实是神经网络的基础了，但是很多人在学的时候总是会遇到一些问题，或者看到大篇的公式觉得好像很难就退缩了，其实不难，就是一个链式求导法则反复用。...
《机器学习》周志华课后习题答案——第六章 (1-7已完结)
weixin_45626630的博客
11-25 1万+
《机器学习》周志华课后习题答案——第六章 (1-2已完结) 文章目录《机器学习》周志华课后习题答案——第六章 (1-2已完结)1.试证明样本空间中任意点x到超平面(w, b)的距离为式(6.2).2.试使用LIBSVM,在西瓜数据集3.0a上分别用线性核和高斯核训练一个SVM,并比较其支持向量的差别.3.选择两个UCI数据集,分别用线性核和高斯核训练-一个SVM,并与BP神经网络和C4.5决策树进行实验比较.4.试讨论线性判别分析与线性核支持向量机在何种条件下等价.5.试述高斯核SVM与RBF神经网络之间的
周志华《机器学习》习题答案（不断更新中）
热门推荐
Mr____Cheng的博客
10-04 3万+
文章目录第1章 绪论 第1章 绪论 1.1 求版本空间 先看书中示例 版本空间： 从假设空间删除掉与正例不一致和与反例一致的假设后，剩余的假设所组成的集合。它可以看成是对正例的最大泛化。 表1.1的训练数据集对应的假设空间应该如下： 1 色泽＝＊，根蒂＝＊，敲声＝＊ 2 色泽＝青绿，根蒂＝＊，敲声＝＊ 3 色泽＝乌黑，根蒂＝＊，敲声＝＊ 4 色泽＝＊，根蒂＝蜷缩，敲声＝＊ 5 色泽＝＊，根蒂＝硬挺，敲声＝＊ 6 色泽＝＊，根蒂＝稍蜷，敲声＝＊ 7 色泽＝＊，根蒂＝＊，敲声＝浊响 8 色泽＝＊，根蒂＝＊
夏日炎炎，使用决策树去挑选西瓜（python实现）
Guo_ping'blog
03-30 1万+
问题导向 树结构大家应该都熟知了，通过根节点开始，通过判断节点信息的是或否决定分支，逐次向下，最后在叶子节点生成最终的决策。 决策的每个分支可以是数值条件也可以是我们传承的经验，下面我将使用java代码在300行内实现一个决策树。 夏日炎炎，我们如何使用过去的经验来判断一个西瓜是不是好瓜呢？ 我们一般会根据它的 色泽,根蒂,敲声,纹理,触感等等来判断它是不是一个好瓜。 以下是去年父亲买瓜时的信息...
Python机器学习—BP神经网络模型预测西瓜好坏
wsq的博客
05-25 4274
import pandas as pd from sklearn.neural_network import MLPClassifier from sklearn.model_selection import train_test_split from sklearn.metrics import classification_report ## 读取数据 data = pd.read_csv('...
BP神经网络（以西瓜为例）
Jing_JiaNan的博客
03-18 1134
【代码】BP神经网络（以西瓜为例）
周志华《机器学习》课后习题解答系列（二）：Ch1 - 绪论
Snoopy_Yuan技术部落格
03-14 2万+
本章概要本章从如何挑选西瓜的经验出发，介绍了本书所涉及基本术语和概念。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 10
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值