周志华《机器学习》课后习题解答系列（六）：Ch5.5 - BP算法实现

最新推荐文章于 2023-12-18 18:35:53 发布
最新推荐文章于 2023-12-18 18:35:53 发布
阅读量8.9k 收藏 40
点赞数 4
分类专栏： 机器学习 文章标签： 机器学习 神经网络 bp算法 python pybrain
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/snoopy_yuan/article/details/70230862
版权
该博客介绍了如何使用Python的PyBrain库实现BP神经网络，包括标准BP和累积BP算法。作者通过西瓜数据集进行预处理，进行独热编码，并比较了两种算法在训练和预测精度上的差异，发现累积BP算法在精度上略胜一筹，但计算时间更长。同时，由于数据集样本量有限，模型精度不高。
摘要由CSDN通过智能技术生成

这里的编程基于Python-PyBrain。Pybrain是一个以神经网络为核心的机器学习包，相关内容可参考神经网络基础 - PyBrain机器学习包的使用

相关答案和源代码托管在我的Github上：PY131/Machine-Learning_ZhouZhihua.

5.5 BP算法实现

这里写图片描述
这里写图片描述

编码基于Python实现（这里查看完整代码和数据集）；

实验过程：基于PyBrain分别实现标准BP和累积BP两种算法下的BP网络训练，并进行比较；

1.算法分析

参考书上推导及算法图5.8，首先给出BP算法的两种版本示意如下：

Algorithms 1. 标准BP算法
----
    输入： 训练集 D&#
最低0.47元/天 解锁文章
Snoopy_Yuan
关注
专栏目录
《机器学习》周志华课后习题答案——第五章（1-7已完结）
weixin_45626630的博客
11-01 2万+
第五章课后习题答案 文章目录第五章课后习题答案一、试述将线性函数f(x) = wTx用作神经元激活函数的缺陷？二、试述使用图5.2(b)激活函数的神经元与对率回归的联系三、对于图5.7中的Vih,试推导出BP算法中的更新公式(5.13). 一、试述将线性函数f(x) = wTx用作神经元激活函数的缺陷？ 使用线性函数作为激活函数时，因为在单元层和隐藏层，其单元值仍是输入值X的线性组合。 若输出层也用线性函数作为激活函数，达不到“激活”与“筛选”的目的，这样相当于整个的线性回归。 二、试述使用图5.2(b
周志华《机器学习》课后习题解答系列（六）：Ch5.6 - BP算法改进
Snoopy_Yuan技术部落格
04-27 1万+
引入“动量项+自适应学习率”来进行BP算法改进，采用iris数据集进行了改进前后对比实验。
周志华《机器学习》课后习题个人解答
01-30
周志华《机器学习》课后习题个人解答。各算法都拿numpy和pandas实现了一遍
机器学习（周志华）课后习题
paintShadow的博客
10-21 9421
机器学习记录
机器学习-周志华-课后习题答案5.7
qilixuening的博客
03-18 920
5.7 试根据式(5.18)和(5.19)构造一个能解决异或问题的单层RBF神经网络。 根据100页图5.5a类似思想，可以构造出如下的单层RBF神经网络 （图中有个c0标错了，应该是c1。输入值x1,x2和输出值y的取值范围均为{0, 1}。） 于是，拥有4个隐层神经元的RBF网络就能进行异或操作了。 当x取（0, 1）或（1, 0）时，输出值为1；当x取（1, 1）或（0,
周志华《机器学习》习题答案（不断更新中）
热门推荐
Mr____Cheng的博客
10-04 4万+
文章目录第1章 绪论 第1章 绪论 1.1 求版本空间 先看书中示例 版本空间： 从假设空间删除掉与正例不一致和与反例一致的假设后，剩余的假设所组成的集合。它可以看成是对正例的最大泛化。 表1.1的训练数据集对应的假设空间应该如下： 1 色泽＝＊，根蒂＝＊，敲声＝＊ 2 色泽＝青绿，根蒂＝＊，敲声＝＊ 3 色泽＝乌黑，根蒂＝＊，敲声＝＊ 4 色泽＝＊，根蒂＝蜷缩，敲声＝＊ 5 色泽＝＊，根蒂＝硬挺，敲声＝＊ 6 色泽＝＊，根蒂＝稍蜷，敲声＝＊ 7 色泽＝＊，根蒂＝＊，敲声＝浊响 8 色泽＝＊，根蒂＝＊
周志华-机器学习-习题5.5 BP算法.zip
最新发布
04-09
机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。它专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的...
周志华《机器学习》课后习题解答系列（五）：Ch4.4 - 编程实现CART算法与剪枝操作
Snoopy_Yuan技术部落格
04-05 7769
基于训练集构建的完全决策树易陷入过拟合，为提升模型泛化能力，通常需要对树进行剪枝。此处基于基尼系数构建出决策树（CART算法），然后编程实现预剪枝和后剪枝操作，最后分析比较了他们的作用。
《机器学习》周志华 习题答案 10.1
weixin_30519071的博客
07-07 708
原题：在西瓜数据集上实现K近邻分类器。 #!/usr/bin/python # -*- coding:utf-8 -*- import numpy as np import matplotlib.pyplot as plt from sklearn.ensemble import BaggingClassifier from sklearn.tree import Decisi...
机器学习.周志华《笔记目录和课后答案 》
女王の专属领地
05-23 3208
课程目录 第一、二章 绪论&模型评估与选择 第三章 线性模型 第四章 决策树 第五章 神经网络 第六章 支持向量机 第七章 贝叶斯分类器 第八章 集成学习 第九章 聚类 第十章 降纬与度量学习 第十一章 特征选择与稀疏学习 第十二章 计算理论学习 第十三章 半监督学习 ...
机器学习个人笔记完整版v5.5-A4打印版.zip
05-29
机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。它是人工智能的核心，是使计算机具有智能的根本途径。 本人看过相关机器学习的书，总结的一些知识点！！！
机器学习部分课后习题答案（完整版）
03-28
机器学习部分课后习题答案,米切尔版的课后答案，卡内基梅隆大学，Tom.M.Mitchell
机器学习（周志华）第一章课后答案
不服输的苏大叔的博客
09-17 3266
写在前面： 这学期开始学习机器学习，后面给出的问题的解答或是想法仅供参考，甚至还有错误的地方，届时希望大能们能够加以斧正，解答我的疑惑。 1.1首先课本给出的样例的版本空间是错的，害我一脸懵逼（再版的已经更正了）。正确应为： 若只包含样例1和4，则“色泽”“根蒂”“敲声”分别都有2中取值，所以假设空间规模大小为3*3*3+1=28种。 版本空间为：A(2,2)-1 = 7 ...
《机器学习（周志华）》Chapter6 支持向量机 课后习题答案
周博的博客
04-12 2729
变成向量的方式即为：查看代码及数据集查看代码及数据集
BP算法程序练习(doing)
范fun的博客
06-14 856
机器学习中的BP算法C++实现
周志华老师的《机器学习》课后习题
海风飘逸
04-07 5690
最近看到本不错的新书，南大周老师的写的。每章都带了课后练习题，鉴于没有标准答案，鄙人贴出自己的一些想法，希望能和同样的爱好者一起讨论学习。
4.2 BP学习算法习题： 给定样本为x=[1 -1 1], y=[1, 1], 选μ=0.1, 计算如下图所示网络的权值调节过程(用BP算法）。隐单元及输出单元用筏a(x)=2/(1+e-x）-1
杨大小姐的博客
12-18 1498
w30 = 1;w40 = 2;w50 =3;w31 = 1;w41 = 0;w51 = 3;w32 = 1;w42 =2;w52 = -3;w63 = 1;w64 =-1;w65 = 1;w73 = 0;w74 =1;w75 =1;eta = 0.1;for');ifx1=1;x2=-1;x3=1;d6=1;d7=1;end;end;Oou6Oou7。
《机器学习》周志华第一章课后习题
huzimu_的博客
03-06 3588
机器学习第一章课后习题答案 1.1 先区分两个概念，假设空间和版本空间。假设空间是指所有的可能的情况所形成的假设组成的集合，而版本空间则是对假设空间进行搜索，删除与正例不一致的假设和与反例一致的假设，所得到的与训练集一致的假设 组成的集合。 对于表 1.1，若色泽、根蒂、敲声分别有3种取值，假设空间大小是 （3 + 1）^ 3 + 1 = 65，第一个 1 代表任意，即该特征对是否是好瓜无影响，第二个 1 代表空集，即没有“好瓜”这种概念（如果仅考虑表中的特征，那应该是344+1 = 49）。版本空间大小是
《机器学习》周志华 习题答案5.5
weixin_30878361的博客
07-02 339
原题是写一个BP神经网络来拟合西瓜数据集，西瓜数据集我已经数值化了如下： 编号,色泽,根蒂,敲声,纹理,脐部,触感,密度,含糖率,好瓜 1,1,1,3,1,1,1,0.697,0.46,1 2,2,1,2,1,1,1,0.774,0.376,1 3,2,1,3,1,1,1,0.634,0.264,1 4,1,1,2,1,1,1,0.608,0.318,1 5,3,1,3,1,1,1...
评论 10
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值