周志华《机器学习》学习笔记

已于 2024-09-05 15:55:58 修改
阅读量400 收藏 3
点赞数 3
分类专栏： 《机器学习》西瓜书——周志华 文章标签： 西瓜书 机器学习 学习笔记 周志华
于 2024-05-23 14:52:27 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/a131529/article/details/139144269
版权

前言：

本笔记是在本人记录的李航老师《统计学习方法》笔记的基础上，对周志华老师《机器学习》中各章节涉及的额外知识（《统计学习方法》中没有提及的）进行整理，用于知识拓展。对于相同的概念或定义，不再重复叙述。本笔记主要用以应对夏令营面试中可能会问到的机器学习方面的问题，比较泛泛而谈，不包含证明过程和详细的算法推导流程，如果您对这些内容感兴趣，建议参考原书。大佬可自行绕路

材料来源：

教材下载链接： 周志华机器学习_西瓜书_2016年出版

参考笔记：

Sophia-11 / Machine-Learning-Notes / 16章完整手推笔记

familyld / Machine_Learning / 西瓜书前9章笔记

部分章节的课后习题

章节笔记：

章节内容概况课后题答案重要性
第1章 绪论

1）基本术语

2）假设空间

3）归纳偏好

4）发展历程

5）应用现状

6）阅读材料

第1章 绪论⭐⭐⭐
第2章 模型评估与选择

1）经验误差和过拟合

2）评估方法

3）性能度量

4）比较检验

5）偏差与方差

第2章 模型评估与选择⭐⭐⭐
第3章 线性模型

1）线性回归

2）对数几率回归

3）线性判别分析

4）多分类学习

5）类别不平衡问题

6）阅读材料

第3章 线性模型⭐⭐⭐
第4章 决策树

1）划分选择

2）剪枝处理

3）连续与缺失值

4）多变量决策树

5）阅读材料

第4章 决策树⭐⭐⭐
第5章 神经网络

1）神经元模型

2）感知机与多层网络

3）全局最小与局部最小

4）其他常见神经网络

5）深度学习

6）阅读材料

第5章 神经网络⭐⭐⭐
第6章 支持向量机⭐⭐⭐
第7章 贝叶斯分类器⭐⭐⭐
第8章 集成学习⭐⭐⭐
第9章 聚类⭐⭐⭐
第10章 降维与度量学习⭐⭐⭐
第11章 特征选择与稀疏学习⭐⭐⭐
第12章 计算学习理论⭐⭐⭐
第13章 半监督学习⭐⭐⭐
第14章 概率图模型⭐⭐⭐
第15章 规则学习⭐⭐⭐
第16章 强化学习⭐⭐⭐

笨笨sg
关注
专栏目录
《机器学习-周志华》学习笔记
10-17
为了训练一个真正有效、优化的模型，需要学习一下机器学习的理论知识。周志华的教材非常经典，但概念较多，特别是前两章，在学习中作了笔记，现分享出来，希望能有帮助。
周志华《机器学习》学习笔记（大全）
03-06
本文为周志华《机器学习》的学习笔记，记录了本人在学习这本书的过程中的理解思路以及一些有助于消化书内容的拓展知识，笔记中参考了许多网上的大牛经典博客以及李航《统计学习》的内容，向前辈们和知识致敬！
周志华机器学习（西瓜书）学习笔记（持续更新）
热门推荐
yhdsss875的博客
11-04 1万+
《周志华机器学习》笔记第1章 绪论1.1 引言1.2 基本术语1.3 假设空间1.4 归纳偏好1.5 发展历程1.6 应用现状第2章 模型评估与选择 第1章 绪论 1.1 引言 机器学习致力于研究如何通过计算的手段，利用经验来改善系统自身的性能。其所研究的主要内容，是关于在计算机上从数据中产生“模型”(model)的算法，即“学习算法”(learning algorithm)。 本书中，“模型”泛指从数据中学得的结果，有的文献中用“模型”指全局性结果，二用“模式”指局部性结果。 1.2 基本术语 要进行机器
周志华机器学习笔记-C7
weixin_61986755的博客
10-03 1063
周志华老师机器学习第7章概述，首次从概率角度的算法解释
《机器学习》周志华西瓜书笔记
flashdesigner的博客
09-09 944
导数（Derivative）是微积分中的一个核心概念，它描述了函数在某一点附近的变化率。具体来说，对于函数y=f(x)，在点x0处的导数定义为：这里，Δx是一个很小的增量，它表示x从x0​变化到x0​+Δx时，函数值f(x)的变化量与Δx之比的极限。如果这个极限存在，那么我们就说函数f(x)在点x0​处是可导的，并且称这个极限值为函数在点x0​处的导数，记作或，有时也简记为y′ 或 ​（当不特别指明x0​时）。导数的几何意义是函数图像在点x0。
周志华机器学习笔记-C11
weixin_61986755的博客
10-03 622
周老师机器学习第11章内容概述
[机器学习入门笔记] 1. 周志华. 《机器学习》
欢迎光临~
08-06 1415
周志华. 《机器学习》入门笔记~
周志华《机器学习》个人笔记
Toby的博客
02-02 6382
这本书比较像导论性质，整体给你介绍下机器学习领域有哪些研究分支，以及这些研究分支中成熟的经典算法。 这本书虽然也有算法描述，但这些算法都是实现底层机器学习算法的，如果没有编程基础或者现在主流的分布式编程的思想，想要直接自己动手据此写代码还是比较困难的。如果你想找的是直接上手coding的实践应用类的书籍，这本书可以放一放，等你先上手了再来。不是这本书难，其实它讲的东西都很简单，只是纯粹的它不是实践类的书籍。 它能给你打下的是不错的概念基础。让你整体认识下机器学习的门道。让你跟专业的人对话的时候，on t
周志华机器学习笔记-C9
weixin_61986755的博客
10-03 326
周志华老师《机器学习》第9章内容概述，无监督学习的重要方法
《机器学习》周志华 学习笔记
刘映辰的博客
06-08 1985
机器学习：致力于研究如何通过计算的手段，利用经验来改善系统自身的性能。经验：“经验”通常以“数据”的形式存在。学习算法：是关于在计算机上从数据中产生“模型”的算法，即“学习算法”。因此，机器学习是研究关于“学习算法”的学问。一批关于西瓜的数据：（色泽 = 青绿；根蒂 = 蜷缩；敲声 = 浊响），（色泽 = 乌黑；根蒂 = 稍蜷；敲声 = 沉闷），（色泽 = 浅白；根蒂 = 硬挺；敲声 = 清脆），… …每对括号内是一条记录，“=” 意思是 “取值为” 。这组记录集合称为一个数据集，其中每条记录是关于一个事件
周志华机器学习笔记-C1
weixin_61986755的博客
10-03 470
对周志华老师《机器学习》第一章主要内容的概述，系列文章的撰写目的与目标
周志华机器学习笔记-C10
weixin_61986755的博客
10-03 512
周老师机器学习第10章内容概述，数据预处理的一种方法
《机器学习(周志华)》学习笔记.pdf
05-12
138页的内容，完整记录了学周志华西瓜书《机器学习》16个篇章的学习和体会。
周志华机器学习视频学习笔记（西瓜书）
05-13
周志华机器学习视频学习笔记（西瓜书）
Machine Learning Specialization 学习笔记（6）
qq_41136689的博客
10-10 443
博客仅记录个人学习进度和一些查缺补漏。学习内容：BV1Bq421A74G这里，Q(s, a) 表示在时间步 t 处于状态 s 并执行动作 a 的情况下，智能体从时间步 t 开始的期望累积回报。R_t 是在时间步 t 获得的即时奖励，γ 是折扣因子，它决定了未来奖励相对于当前奖励的价值。
TY1801 内置GaN电源芯片（18w-65w)
最新发布
QQ_2169636881的博客
10-10 322
TY1801 是一款内置氮化镓18W-65W开关电源芯片，用于离线交流/直流转换应用，包括手机充电器和适配器等。TY1801A 18W；TY1801B 20W；TY1801C 25W；TY1801D 30W；TY1801DH 30W；TY1801E 35W；TY1801F 40W；TY1801G 45W；TY1801H 65W；
跨界的胜利：机器学习与神经网络的物理之光
Envyᥫᩣ的博客
10-10 471
近日，2024年诺贝尔物理学奖颁发给了机器学习与神经网络领域的研究者，这是历史上首次出现这样的情况。这项奖项原本只授予对自然现象和物质的物理学研究作出重大贡献的科学家，如今却将全球范围内对机器学习和神经网络的研究和开发作为了一种能够深刻影响我们生活和未来的突出成果。机器学习和神经网络凭借其高效、准确和实用的特点，已经广泛应用于生产制造、金融、医疗等众多领域。此次诺贝尔物理学奖的颁发，也引起了全球学术和科研圈的广泛关注和热议。对于这一评奖结果，你又有何不同的看法？
机器学习与神经网络：开启物理学的新篇章
zhaoshanshan168的博客
10-10 338
此次诺贝尔物理学奖的颁发，标志着机器学习与神经网络在物理学乃至科学研究中的地位逐渐提升。随着技术的不断进步，我们有理由相信，未来的人工智能将为人类带来更多的科学突破。
《机器学习》 周志华学习笔记第十四章 概率图模型 python实现
05-17
很高兴听到你正在学习《机器学习》这本经典的教材，下面我为你提供第十四章概率图模型的Python实现学习笔记。 ## 1. 朴素贝叶斯分类器 ### 1.1 数据准备 在本章中，我们将使用著名的鸢尾花数据集进行分类。首先，我们可以从sklearn库中导入该数据集。 ```python from sklearn.datasets import load_iris iris = load_iris() X = iris.data y = iris.target ``` ### 1.2 朴素贝叶斯分类器实现 接下来，我们可以使用sklearn库中的朴素贝叶斯分类器进行分类，具体实现如下： ```python from sklearn.naive_bayes import GaussianNB from sklearn.model_selection import train_test_split from sklearn.metrics import accuracy_score X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42) gnb = GaussianNB() gnb.fit(X_train, y_train) y_pred = gnb.predict(X_test) accuracy = accuracy_score(y_test, y_pred) print('Accuracy:', accuracy) ``` ### 1.3 结果分析 运行上述代码后，我们可以得到该模型在测试集上的准确率，结果如下所示： ``` Accuracy: 1.0 ``` 可以看出，该模型在鸢尾花数据集上表现出色，准确率达到了100%。 ## 2. 隐马尔可夫模型 ### 2.1 数据准备 在本节中，我们将使用一个简单的例子来介绍隐马尔可夫模型的实现。假设我们有一个长度为100的序列，每个位置上的值都是0或1，其中0和1出现的概率分别为0.6和0.4。我们可以使用numpy库生成这个序列。 ```python import numpy as np np.random.seed(42) sequence = np.random.choice([0, 1], size=100, p=[0.6, 0.4]) ``` ### 2.2 隐马尔可夫模型实现 接下来，我们可以使用hmmlearn库中的隐马尔可夫模型进行序列建模，具体实现如下： ```python from hmmlearn import hmm model = hmm.MultinomialHMM(n_components=2) model.fit(sequence.reshape(-1, 1)) logprob, states = model.decode(sequence.reshape(-1, 1)) print('Sequence:', sequence) print('States:', states) ``` ### 2.3 结果分析 运行上述代码后，我们可以得到该模型对序列的建模结果，结果如下所示： ``` Sequence: [0 0 0 0 0 0 0 0 0 0 1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0] States: [1 1 1 1 1 1 1 1 1 1 0 0 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1] ``` 可以看出，模型对序列进行了建模，并输出了每个位置上的状态，其中0表示“假”，1表示“真”。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值