01《机器学习·周志华》读书笔记

最新推荐文章于 2023-08-31 15:06:42 发布
最新推荐文章于 2023-08-31 15:06:42 发布
阅读量393 收藏
点赞数
分类专栏： 计算机研究类技术 文章标签： 计算机研究类技术 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/dong_huifeng/article/details/83931911
版权

目录

第1章 绪论

1.1 引言

1.2 基本术语

1.3 假设空间

1.4 归纳偏好

1.5 发展历程

1.6 应用现状

1.7 阅读材料

第2章 模型评估与选择

2.1 经验误差与过拟合

2.2 评估方法

2.3 性能度量

2.4 比较检验

2.5 偏差与方差

2.6 阅读材料

第3章 线性模型

3.1 基本形式

3.2 线性回归

3.3 对数几率回归

3.4 线性判别分析

3.5 多分类学习

3.6 类别不平衡问题

3.7 阅读材料

第4章 决策树

4.1 基本流程

4.2 划分选择

4.3 剪枝处理

4.4 连续与缺失值

4.5 多变量决策树

4.6 阅读材料

第5章 神经网络

5.1 神经元模型

5.2 感知机与多层网络

5.3 误差逆传播算法

5.4 全局最小与局部极小

5.5 其他常见神经网络

5.6 深度学习

5.7 阅读材料

第6章 支持向量机

6.1 间隔与支持向量

6.2 对偶问题

6.3 核函数

6.4 软间隔与正则化

6.5 支持向量回归

6.6 核方法

6.7 阅读材料

第7章 贝叶斯分类器

7.1 贝叶斯决策论

7.2 极大似然估计

7.3 朴素贝叶斯分类器

7.4 半朴素贝叶斯分类器

7.5 贝叶斯网

7.6 EM算法

7.7 阅读材料

第8章 集成学习

8.1 个体与集成

8.2 Boosting

8.3 Bagging与随机森林

8.4 结合策略

8.5 多样性

8.6 阅读材料

第9章 聚类

9.1 聚类任务

9.2 性能度量

9.3 距离计算

9.4 原型聚类

9.5 密度聚类

9.6 层次聚类

9.7 阅读材料

第10章 降维与度量学习

10.1 k近邻学习

10.2 低维嵌入

10.3 主成分分析

10.4 核化线性降维

10.5 流形学习

10.6 度量学习

10.7 阅读材料

第11章 特征选择与稀疏学习

11.1 子集搜索与评价

11.2 过滤式选择

11.3 包裹式选择

11.4 嵌入式选择与L1正则化

11.5 稀疏表示与字典学习

11.6 压缩感知

11.7 阅读材料

第12章 计算学习理论

12.1 基础知识

12.2 PAC学习

12.3 有限假设空间

12.4 VC维

12.5 Rademacher复杂度

12.6 稳定性

12.7 阅读材料

第13章 半监督学习

13.1 未标记样本

13.2 生成式方法

13.3 半监督SVM

13.4 图半监督学习

13.5 基于分歧的方法

13.6 半监督聚类

13.7 阅读材料

第14章 概率图模型

14.1 隐马尔科夫模型

14.2 马尔科夫随机场

14.3 条件随机场

14.4 学习与推断

14.5 近似推断

14.6 话题模型

14.7 阅读材料

第15章 规则学习

15.1 基本概念

15.2 序贯覆盖

15.3 剪枝优化

15.4 一阶规则学习

15.5 归纳逻辑程序设计

15.6 阅读材料

第16章 强化学习

16.1 任务与奖赏

16.2 K-摇臂赌博机

16.3 有模型学习

16.4 免模型学习

16.5 值函数近似

16.6 模仿学习

16.7 阅读材料

huifengdong
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
机器学习-第三章线性模型读书笔记（周志华）
black_shuang的博客
06-09 5908
博主从未接触过机器学习，读书笔记第一目的是为了总结，第二是放到网上交流，多多指教！周志华的机器学习第三章讲的是：线性模型首先从线性模型的基本形式出发，进而介绍了几种经典的线性模型（线性回归，二分类，多分类），博客也按照该流程陈述自己的学习收获。1.线性模型的基本形式线性模型，关键在于“线性”。顾名思义线性模型试图学得一个通过属性的线性组合来进行预测的函数，即：其中x是包含d维属性的向量，(x1,x...
读周志华《机器学习》第一章有感（白话总结）
qq_40694323的博客
04-09 1657
机器学习的基本概念，周志华《机器学习》
周志华 机器学习 读书笔记
weixin_39915444的博客
09-03 563
分类(classification): 预测的是离散值, 比如“好瓜” “坏瓜”。 回归(regression): 预测的是连续值, 例如西瓜成熟度“0.79", "0.95"。 泛化(generalization): 学得模型适用于新样本的能力，称为"泛化" (generalization)能力. 数据挖掘(data mining): 从海量数据中发掘知识. ，数据库领域的研究为数据挖掘提...
《机器学习》（周志华） 读书笔记（一）
weixin_36413027的博客
07-12 189
一. 基本术语 数据集： 需要进行数学分析的数据集合 示例/样本： 数据集中，每条记录都是关于一个事件or一个对象的描述，这每条记录都被称为“示例or样本” 属性： 反应事件or对象在某方面的属性or性质的事项，就是属性。 属性值： 属性上的取值，即为“属性值”。 属性空间/样本空间/输入空间： 属性张成的空间。一个属性，就是一根坐标轴，就是一个维度。 特征向量： 由于空间中的每个点，对应一个坐标...
机器学习(周志华) 读书笔记
lingtianyulong的专栏
06-27 785
注：关于该系列，只为整理并记录个人学习过程中，遇到的知识点整理； 机器学习读书笔记 文章目录机器学习读书笔记第1章 绪论1.1 引言1.2 基本术语1.3 假设空间1.4 归纳偏好1.4.1奥卡姆剃刀原则(Occam’s razor)1.4.2 没有免费午餐定理(No Free Lunch Theorem，简称 NFL 定理) 第1章 绪论 1.1 引言 机器学习定义 机器学习一门致力于研究如何通过计算的手段，利用经验来改善系统自身的性能的学科。机器学习所研究的主要内容，是关于在计算机上从数据中产生“模
机器学习（周志华）读书笔记 1
tiantizzz的博客
01-10 1207
目录 1. 绪论 1.1 机器学习的基本概念 1.2 基本术语 2. 模型评估与选择 2.1 经验误差与过拟合 2.2 评估方法 2.2.1 留出法 2.2.2 交叉验证法 2.2.3 自助法 2.2.4 调参与最终模型 2.3 性能度量 2.3.1 精度与错误率 2.3.2 查准率与查全率 2.4比较检验 2.5 偏差与方差 ps.写在前面，本文是在参加datawhale组队学习，学习周志华老师的《机器学习》过程的学习笔记。文中出现的图片均引自《机器学习》，《机..
《机器学习-周志华》学习笔记
10-17
为了训练一个真正有效、优化的模型，需要学习一下机器学习的理论知识。周志华的教材非常经典，但概念较多，特别是前两章，在学习中作了笔记，现分享出来，希望能有帮助。
周志华《机器学习》学习笔记（大全）
03-06
本文为周志华《机器学习》的学习笔记，记录了本人在学习这本书的过程中的理解思路以及一些有助于消化书内容的拓展知识，笔记中参考了许多网上的大牛经典博客以及李航《统计学习》的内容，向前辈们和知识致敬！
《机器学习(周志华)》学习笔记.pdf
05-12
138页的内容，完整记录了学周志华西瓜书《机器学习》16个篇章的学习和体会。
《机器学习》 周志华 学习笔记.zip
最新发布
04-08
机器学习涵盖了许多不同的算法，用于解决各种类型的问题。以下是一些常见的机器学习算法： 监督学习算法：线性回归（Linear Regression）逻辑回归（Logistic Regression）决策树（Decision Trees）随机森林（Random...
<机器学习>(周志华)读书笔记 -- 第二章 模型评估与选择
ANONYMOUSLYCN的专栏
02-13 3049
2.1  经验误差与过拟合 通常,我们使用"错误率"来表示分类中错误的样本占总样本的比例.如果m个样本中有a个错误样本则错误率E=a/m ,对应的,1-a/m称为精度,即"精度"=1-"错误率".更一般的情况来说,我们把机器学习的预测输出和样本真实输出之间的差异称为"训练误差"或者"经验误差". 一般来说,如果在训练集中的表现精度高,而在测试集中表现的精度小,一般是过拟合.相反,如果是精度都
机器学习（周志华）读书笔记---第4章
铭宇要做后台攻城狮
05-14 770
4.1 基本流程 决策树的组成： 每个内部节点对应于某个属性上的测试 每个分支对应于该测试的一种可能结果 每个叶节点对应于一个预测结果 决策树的学习目的： 产生一棵泛化能力强，即处理未见示例能力强的决策树 策略： 分而治之，从根节点开始自至叶的递归过程，在每个中间节点寻找一个划分属性。 三种停止条件： （1）当前节点包含的样本全属于同一类别 （2）当前属性集为空或所有样本在所...
《机器学习》（周志华）读书笔记
a_step_further的博客
03-20 3418
周志华老师的新书《机器学习》，第28页论及训练集相关的方法时，讲道 “给定包含m个样本的数据集D，在模型评估与选择过程中由于需要留出一部分数据进行评估测试，事实上我们只使用了一部分数据训练模型。因此，在模型选择完成后，学习算法和参数配置已选定，此时应该用数据集D重新训练模型。这个模型在训练过程中使用了所有m个样本，这才是我们最终提交给用户的模型。“     这里，个人有一点异议。训练数据的量级本
机器学习-周志华 阅读笔记
qq_52736856的博客
08-31 648
机器学习-周志华绪论模型评估与选择经验误差与过拟合评估方法性能度量比较检验(大量概率论应用)偏差与方差线性模型基本形式线性回归对数几率回归线性判别分析多分类学习类别不平衡问题决策树基本流程划分选择剪枝处理连续与缺失值多变量决策树神经网络神经元模型感知机与多层网络误差逆传播算法全局最小与局部最小支持向量机间隔与支持向量对偶问题核函数软间隔与正则化支持向量回归核方法贝叶斯分类器贝叶斯决策论极大似然估计朴素贝叶斯分类器半朴素贝叶斯分类器贝叶斯网EM算法集成学习个体与集成BoostingBagging与随机森林结合
《机器学习》周志华 读书笔记（原创）
angle_11111的博客
02-20 2386
第1章 p1-p23  2017-2-20 Mon 模型：泛指从数据中学得的结果 Instance示例（或sample样本）：每条记录的数据。每条记录是关于一个事件或对象的描述。 Data set数据集:记录数据的集合 Attribute属性（或feature特征）：反映事件或对象在某方面的表现或性质的事项 Attribute value属性值：属性上的取值 Attribute s
机器学习（周志华）读书笔记-（二）神经网络（CNN）
dingyahui的博客
08-23 4047
神经网络1、生物学上的神经网络是是目前发现的神经元细胞间相互组合链接组成一个互连的网络，通过对外界的刺激，神经元产生发送化学物质进而内部发生电位变化，下图是生物神经元结构。 生物神经元的具体工作我们不需要了解，只需要知道互连神精元接受刺激产生物质通过比较阈值最终是兴奋还是抑制。在算法结构上，想要的就是他的这种网络结构模型。Hebb认为神经网络的学习过程最终是发生在神经元之间的突触部位...
周志华-机器学习-读书笔记
宝树啊宝树
09-19 218
目录2 模型评估与选择2.1 经验误差与过拟合 2 模型评估与选择 2.1 经验误差与过拟合 错误率（error rate）：E=a/mE=a/mE=a/m,EEE为错误率，aaa为样本分类错误，mmm为总样本数 精度（accuracy）: A=1−a/m=1−EA=1-a/m=1-EA=1−a/m=1−E，AAA为精度 训练误差（training error）或 经验误差（empirical e...
周志华《机器学习》读书笔记（一）
Mefishes的博客
10-16 657
机器学习如何使用绪论1.1 引言1.2 基本术语1.3 假设空间1.4 归纳偏好1.5 发展历程1.6 应用现状如何使用 如何使用 绪论 1.1 引言 1.2 基本术语 1.3 假设空间 1.4 归纳偏好 1.5 发展历程 1.6 应用现状 如何使用 这是一本教科书，并非是无所不包、“从入门到精通”的书籍； 这是一本入门级教科书。周老师认为，入门阶段最需理清基本概念、了解领域风貌。在入门阶段，“顾及细微”应当让位于“观其大略”，不然难免只见树木，不见森林。虽然机器学习中存在多种学派，并且理解学派间的包容等
《机器学习》 周志华学习笔记第十四章 概率图模型 python实现
05-17
很高兴听到你正在学习《机器学习》这本经典的教材，下面我为你提供第十四章概率图模型的Python实现学习笔记。 ## 1. 朴素贝叶斯分类器 ### 1.1 数据准备 在本章中，我们将使用著名的鸢尾花数据集进行分类。首先，我们可以从sklearn库中导入该数据集。 ```python from sklearn.datasets import load_iris iris = load_iris() X = iris.data y = iris.target ``` ### 1.2 朴素贝叶斯分类器实现 接下来，我们可以使用sklearn库中的朴素贝叶斯分类器进行分类，具体实现如下： ```python from sklearn.naive_bayes import GaussianNB from sklearn.model_selection import train_test_split from sklearn.metrics import accuracy_score X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42) gnb = GaussianNB() gnb.fit(X_train, y_train) y_pred = gnb.predict(X_test) accuracy = accuracy_score(y_test, y_pred) print('Accuracy:', accuracy) ``` ### 1.3 结果分析 运行上述代码后，我们可以得到该模型在测试集上的准确率，结果如下所示： ``` Accuracy: 1.0 ``` 可以看出，该模型在鸢尾花数据集上表现出色，准确率达到了100%。 ## 2. 隐马尔可夫模型 ### 2.1 数据准备 在本节中，我们将使用一个简单的例子来介绍隐马尔可夫模型的实现。假设我们有一个长度为100的序列，每个位置上的值都是0或1，其中0和1出现的概率分别为0.6和0.4。我们可以使用numpy库生成这个序列。 ```python import numpy as np np.random.seed(42) sequence = np.random.choice([0, 1], size=100, p=[0.6, 0.4]) ``` ### 2.2 隐马尔可夫模型实现 接下来，我们可以使用hmmlearn库中的隐马尔可夫模型进行序列建模，具体实现如下： ```python from hmmlearn import hmm model = hmm.MultinomialHMM(n_components=2) model.fit(sequence.reshape(-1, 1)) logprob, states = model.decode(sequence.reshape(-1, 1)) print('Sequence:', sequence) print('States:', states) ``` ### 2.3 结果分析 运行上述代码后，我们可以得到该模型对序列的建模结果，结果如下所示： ``` Sequence: [0 0 0 0 0 0 0 0 0 0 1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0] States: [1 1 1 1 1 1 1 1 1 1 0 0 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1] ``` 可以看出，模型对序列进行了建模，并输出了每个位置上的状态，其中0表示“假”，1表示“真”。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值