《机器学习》--周志华 （第三章学习笔记）

最新推荐文章于 2024-07-27 23:44:59 发布
最新推荐文章于 2024-07-27 23:44:59 发布
阅读量2.4k 收藏 6
点赞数 3
分类专栏： 机器学习 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Cristal_yin/article/details/76360327
版权
本文是关于《机器学习》一书中第三章的学习笔记，主要讨论了线性模型的基本形式和线性回归。线性模型通过属性的线性组合进行预测，包括对离散属性的处理和最小化均方误差的方法。线性回归分为多元线性和对数线性回归，其中对数线性回归适用于二分类任务，提供概率预测。此外，还介绍了线性判别分析（LDA）及其目标，以及多分类学习中的拆解法、纠错输出码（OvO和OvR）策略。
摘要由CSDN通过智能技术生成

线性模型

基本形式

线性模型试图学得一个通过属性的线性组合来进行预测的函数，即

f(x)=w1x1+w2x2+...+wdxd+b

一般用向量形式写成

f(x)=wTx+b

线性模型形式简单、易于建模，但却蕴涵着机器学习中一些重要的基本思想。

线性回归

  • 线性模型

    线性模型试图学得一个通过属性的线性组合来进行预测的函数

最低0.47元/天 解锁文章
Cristal_yin
关注
  • 3
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
《机器学习by周志华》学习笔记-线性模型-02对数几率回归与线性判别分析
vanilla698的博客
04-17 913
上一节我们考虑了线性模型的回归学习，但是想要做分类任务就需要用到上文中的广义线性模型。当联系函数连续且充分光滑，考虑单调可微函数。多分类与二分类的线性判别分析（LDA）
周志华《机器学习》学习笔记（大全）
03-06
本文为周志华《机器学习》的学习笔记，记录了本人在学习这本书的过程中的理解思路以及一些有助于消化书内容的拓展知识，笔记中参考了许多网上的大牛经典博客以及李航《统计学习》的内容，向前辈们和知识致敬！
2019/9/12，机器学习（周志华）第三章及学习笔记
qq_31688497的博客
09-12 210
本章的内容是线性模型，先从简单的线性回归到应用于二分类的对数回归。 f(xi)=wxi+b, 为了确定线性模型中的w和b，用上一章提到的均方误差mse来求解，试图将mse最小化来得到线性模型中较好的w和b（理论上是最好的），这种方法称为最小二乘法。 最小二乘法在其他领域也有用途，例如在我之前的视差图精化的亚像素插值中也用到了最小二乘法拟合。而此处线性回归中的最小二乘法是指找到一条直线，使所有样本到...
【机器学习】周志华《机器学习》西瓜书勘误：按章节排序整理（截至2024年1月第45次印刷）
最新发布
天地玄黄 魑魅魍魉 风花雪月 商角徵羽 暂时停更 十月重见
07-27 703
本文整理了机器学习领域经典之作：南京大学周志华教授的《机器学习》（西瓜书）勘误。包含博主按章节排序整理（截至2024年1月第45次印刷）及原印刷排序两部分。
周志华机器学习笔记
weixin_68531302的博客
07-17 949
------------------------------------------以上内容更新于 2023 .7.17----------------------------------------------机器学习主要是研究如何使计算机从给定的数据中学习规律，即从观测数据(样本) 中寻找规律，并利用学习到的规律(模型) 对未知或无法观测的数据进行预测，其中数据表示规律。需要注意的是:训练/测试集的划分要尽可能保持数据分布的一致性，以避免由于分布的差异引入额外的偏差，常见的做法是采取分层抽样。
周志华 机器学习 笔记
weixin_30315905的博客
07-17 1103
首先的阶段由卷积层和池化层组成，卷积的节点组织在特征映射块（feature maps）中，每个节点与上一层的feature maps中的局部块通过一系列的权重即过滤器连接。加权和的结果被送到非线性函数中如ReLU。一个feature maps中所有的节点分享相同的过滤器，即共享权重。这种结构的原因是双重的，第一,图像中一个值附近的值是高度相关的，第二，不同区域的值是不相干的。换句话说，一个图像某部...
《机器学习》周志华 学习笔记
刘映辰的博客
06-08 1942
机器学习：致力于研究如何通过计算的手段，利用经验来改善系统自身的性能。经验：“经验”通常以“数据”的形式存在。学习算法：是关于在计算机上从数据中产生“模型”的算法，即“学习算法”。因此，机器学习是研究关于“学习算法”的学问。一批关于西瓜的数据：（色泽 = 青绿；根蒂 = 蜷缩；敲声 = 浊响），（色泽 = 乌黑；根蒂 = 稍蜷；敲声 = 沉闷），（色泽 = 浅白；根蒂 = 硬挺；敲声 = 清脆），… …每对括号内是一条记录，“=” 意思是 “取值为” 。这组记录集合称为一个数据集，其中每条记录是关于一个事件
周志华——机器学习 第三章笔记
m0_62833130的博客
01-16 701
机器学习的线性模型、对数几率回归、线性判别分析LDA、多分类学习。
《机器学习by周志华》学习笔记-线性模型-01基本形式与线性回归
vanilla698的博客
04-11 802
给定由d个属性描述的示例x：其中每个属性的权重：其中xi是x在第i个属性上的值，线性模型试图学习一个通过属性线性作何来预测的函数，即：用向量形式写成：当w和b的参数学得之后，模型就可以确定。也叫「可理解性」
《机器学习》周志华--第4章读书笔记+习题答案
weixin_45775701的博客
11-15 4306
第四章-决策树习题答案 习题答案 1.试证明对于不含冲突数据(即特征向量完全相同但标记不同)的训练集，必存在与训练集一致(即训练误差为0)的决策树。 答： 说法一：不含冲突数据;决策树是按照特征来进行划分->可以得到每个叶节点中的样本的所有特征及标记完全相同的决策树->与训练集一致。 说法2:因为决策树是通过属性来划分,相同属性的样本最终肯定会进入相同的叶节点。- -个叶节点 只有一个分类，如果样本属性相同而分类不同，必然产生训练误差。反之，决策树只会在当 前样本集合是同一类或者所有属性相同时才
机器学习（周志华）学习笔记（一）
coral_55u的博客
03-19 1512
学习教材： 机器学习（周志华） 学习内容： 一、绪论 1.1 基本术语 数据集： 示例：关于一个事件或对象的描述。（Xi） 特征向量： 样本的维数：用于描述一个样本的属性个数。 标记：关于示例结果的信息。（Yi） 样例：标记信息的示例。 聚类：将训练集分成若干组。 泛化能力：学得模型适用于新样本得能力。 分类任务与回归任务的区别：分类任务用于预测离散值，回归任务用于预测连续值。 监督学习和无监督学习的区别：训练数据是否拥有标记信息。其中分类和回归是监督学习的代表，聚类是无监督学
《机器学习》（周志华）读书笔记
a_step_further的博客
03-20 3447
周志华老师的新书《机器学习》，第28页论及训练集相关的方法时，讲道 “给定包含m个样本的数据集D，在模型评估与选择过程中由于需要留出一部分数据进行评估测试，事实上我们只使用了一部分数据训练模型。因此，在模型选择完成后，学习算法和参数配置已选定，此时应该用数据集D重新训练模型。这个模型在训练过程中使用了所有m个样本，这才是我们最终提交给用户的模型。“     这里，个人有一点异议。训练数据的量级本
机器学习 -- 《机器学习》(周志华) 第三章
Zhou_Yulong的博客
08-24 1132
机器学习 – 《机器学习》(周志华) 第三章 笔记 正交回归 点距离线的距离是正交回归 线性回归 点垂直方向到线的距离 将离散特征转为线性公式 极大似然估计 用途：估计概率分布的参数值 方法： 写出随机变量X的概率密度函数 写出似然函数 求出使得L(μ，σ^2) 取到最大值的μ，σ 概率密度函数 最小二乘法 基于方误差最小化来进行求解的方法 凸集1 凸函数时需要，最优化领域凹凸性与高数中不同 梯度 梯度为 多元 函数的一阶导数 线性判别分析 给定训练集，将样例
机器学习周志华第三章笔记
ha_ha515的博客
01-16 298
线性回归回顾 linear Algebra 线性代数 matrix 矩阵 vector 向量 只有一列的矩阵
机器学习 周志华笔记
湾区人工智能
11-18 533
机器学习 周志华笔记
机器学习周志华笔记
u011339231的博客
06-26 303
1，监督学习：分类、回归      无监督学习：聚类
机器学习周志华课后题第三章
04-06
3. 留出法、k折交叉验证和留一法的区别是什么？它们各自适用于什么情况？ 留出法是将数据集分成两部分，一部分作为训练集，另一部分作为测试集。留出法适用于数据集较大的情况。 k折交叉验证是将数据集分成k个子集...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值