吃瓜笔记3

已于 2022-03-19 19:38:03 修改
阅读量966 收藏
点赞数
文章标签： 机器学习 算法 分类
于 2022-03-16 21:09:30 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/diunoonw/article/details/123535631
版权
本文深入探讨了线性模型在机器学习中的应用，包括最小二乘法解释的线性回归，对数几率回归（逻辑回归）以及线性判别分析（LDA）。同时，介绍了如何解决多分类问题，如拆解法和MvM策略，并提到了类别不平衡问题的处理方法，如欠采样、过采样和阈值调整。
摘要由CSDN通过智能技术生成

吃瓜笔记3 线性模型

知识点均来源于周志华-西瓜书

3.2 线性回归

最小二乘法：基于均方误差最小化进行模型求解。
线性回归中最小二乖法：找到一条直线，使所有样本到直线上的欧氏距离最小。

对数线性回归

3.3对数几率回归：逻辑回归

分类问题，找一个单调可微函数将分类任务的真实标记与线性回归模型的预测值联系起来。

对数几率函数

3.4线性判别分析（LDA）

给定训练样例集，将样例投影到一条直线上，使得同类样例的投影点尽可能接近，异类样例的投影点尽可能远。

LDA最大化目标：类间散度矩阵与类内散度矩阵的广义瑞利商。

3.5多分类问题

拆解法：OvO, OvR, MvM
MvM：纠错输出码 Error Correcting Output Codes, ECOC

3.6类别不平衡问题

再缩放：欠采样EasyEnsemble、过采样SMOTE、阈值移动
代价敏感学习

diunoonw
关注
清新水彩西瓜笔记的夏至PPT模板
07-16
清新水彩西瓜笔记的夏至PPT模板，共22页； PPT模板封面，使用了水彩绘制的夏日西瓜PPT背景图片，右侧放置夏至PPT艺术字标题。界面清新雅致。 PowerPoint模板内容页，使用了多张夏至水果和人们的日常生活插图，搭配...
吃瓜小组笔记day1_211116_200811.pdf
11-16
寻思直接上传当日手写PDF文件让我舒服些
吃瓜教程笔记01
热门推荐
weixin_44658582的博客
11-14 4万+
《机器学习》周志华第1、2章笔记
吃瓜笔记01：【西瓜书+南瓜书】1-2章
WH_Z0v0的博客
07-22 2万+
“机器学习是让计算机像人类一样学习和行动的科学，通过以观察和现实世界互动的形式向他们提供数据和信息，以自主的方式改善他们的学习。” 机器学习的三要素：数据、算法、模型 机器学习研究的是从数据中通过选取合适的算法，自动的归纳逻辑或规则，并根据这个归纳的结果(模型)与新数据来进行预测。
【吃瓜笔记】
fgbb5866的博客
09-20 398
这是一份关于跟着datawhale一起进行小组学习（吃瓜）的自学笔记。
吃瓜笔记Task3
m0_64402222的博客
02-23 86
西瓜书第四章决策树学习，了解并学习了ID3决策树、C4.5决策树、CART决策树三种不同类型模型的划分依据等。
吃瓜笔记支持向量机
weixin_46191935的博客
07-29 114
支持向量的概念：   假设超平面(w,b)能将训练样本正确分类，即对于，若，则有，若，则有. 间隔：两个异类支持向量超平面的距离之和 支持向量机（SVM）基本型：   找到最大间隔的划分超平面，需要求解参数w和b使得最大， 支持向量机特点：训练完成后，大部分的训练样本都不需保留，最终模型仅与支持向量有关 笔记出处：Datawhale吃瓜教程（https://www.bilibili.com/video/BV1Mh411e7VU） ...
吃瓜笔记
qq_53872463的博客
08-16 316
吃瓜笔记
吃瓜学习笔记 - 支持向量机
xiaoyilisa的博客
12-27 535
落在带子上的样本不计算损失(类比线性回归在线上的点预测误差为 0)，不在带子上的则以偏离带 子的距离作为损失(类比线性回归的均方误差)，然后以最小化损失的方式迫使间隔带从样本最密集的地 方穿过，进而达到拟合训练样本的目的。由于约束条件 μ ⪰ 0 是凸集，且根据对偶函数的性质(a)可知 Γ(μ, λ) 恒为凹函数，其加个负号即为凸函数，所以无论主问题是否为凸优化问题， 对偶问题恒为凸优化问题。由此可以看出，当主问题较难求解时，如 果强对偶性成立，则可以通过求解对偶问题来间接求解主问题。
吃瓜学习笔记 - 决策树
xiaoyilisa的博客
12-21 1723
若样本x在划分属性a上的取值已知，则将x划入与其取值对应的子结点，且样本权值在子结点中保持为w(x)。若样本x在划分属性a上的取值未知，则将x同时划入所有子结点，且样本权重在于属性值a(v)对应的子结点中调整为。从训练集生成一棵完整的决策树，然后自底向上对非叶结点进行考察，若将该结点对应的子树替换为叶节点能带来决策树泛化性能的提升，则将该子树替换为叶节点。是在决策树生成过程中，对每个节点在划分前先进行评估，若当前节点的划分不能顾戴路决策树泛化性能的提升，则停止划分并将当前节点标记为叶节点。
吃瓜笔记6
diunoonw的博客
03-31 1056
吃瓜笔记6
【DW组队学习—吃瓜教程】task2：概览西瓜书+南瓜书第3章
07-19
压缩包中的图片文件名为“吃瓜笔记-XX.jpg”，暗示它们可能是学习过程中所记录的笔记截图，包含了关键概念、公式或代码示例。这些图片可能涵盖了书中讲解的各个重要点，例如决策树的构建过程、特征选择的方法、模型...
机器学习和深度学习的区别
dhdjjfhdghh的博客
09-26 1626
深度学习是机器学习的一个子集，它基于人工神经网络的概念，特别是那些具有多个非线性变换的层（即深度）。深度学习模型能够自动从原始数据中提取复杂的特征，而无需人为干预。层次结构：深度学习模型由多个层次的神经元组成，每一层都对输入数据进行转换和抽象，从而捕捉数据的复杂特征。自动特征提取：与传统机器学习方法相比，深度学习能够自动从原始数据中学习特征，减少了对人工特征工程的依赖。计算密集型：深度学习模型通常需要大量的计算资源，包括高性能的GPU，以训练大规模的数据集和复杂的模型结构。代表性模型。
机器学习（2）：机器学习的相关术语
m0_55939576的博客
09-28 456
你周日约了小李、老王打牌，小李先来了，老王没来。小李说：“你别打电话啦，昨天老王喜欢的球队皇马输球了，他的项目在上个礼拜也没成功上线，再加上他儿子期末考试不及格，他肯定没心情来。在已知数据集的基础上，通过反复的计算，选择最贴切的函数来描述自变量和因变量之间的因果关系。要预测老王的状况，我们就需要建立一个“预测老王会不会来”的函数，而。用另一批同类数据集来测试机器能否通过找到的函数推出这批数据的标签。已找到的函数在通过验证和评估后，使用测试数据集做最终的测试。验证和评估中用到的另一批的同类数据集。
机器学习周报（9.23-9.29）
weixin_51923997的博客
09-29 807
主要学习了自监督学习的相关知识，了解了 BERT 是如何实现自监督学习以及 BERT 为什么能够有效地完成任务。通过 BERT 的四个例子来理解怎样使用 BERT。最后了解了 Multi-lingual BERT 的基本知识。补充学习了pytorch中有关tensor的拼接与拆分BERT（Bidirectional Encoder Representations from Transformers）是一种基于Transformer架构的语言理解模型，它通过双向上下文来捕捉句子中的语义关系。
机器学习框架
denglinchen的博客
10-02 1415
机器学习框架是用于开发和部署机器学习模型的软件工具。它们提供了一组API和工具，帮助开发人员在各种计算设备上构建、训练和部署机器学习模型。TensorFlow：由Google开发的开源机器学习框架，广泛用于构建和训练深度学习模型。PyTorch：由Facebook开发的开源深度学习框架，提供了动态图机制，使开发人员能够更方便地调试和构建模型。Caffe：一个用于深度学习的框架，由伯克利的研究者开发。这些框架都具有各自的优势和特点，选择适合自己需求的框架需要考虑因素如开发经验、任务需求、性能和可扩展性等。
用Sklearn和Statsmodels来做linear_regression和Logistic_regression注意事项
最新发布
-
10-03 837
默认情况下，LogisticRegression 的 penalty 参数设置为 ‘l2’，同时 solver 参数默认为 ‘lbfgs’，它是一种优化算法，用于找到损失函数的最小值。C 参数控制正则化的强度，其默认值是 1.0，较小的 C 值意味着更强的正则化（即更平滑的模型），而较大的 C 值则意味着更弱的正则化（允许模型更复杂）。而在 scikit-learn 中，当你使用 LinearRegression 类时，是否添加常数项（截距）是由类初始化时的 fit_intercept 参数决定的。
初识机器学习
2401_84080967的博客
09-29 977
现在随着人工智能的发展，我们多多少少都听过人工智能，机器学习这样的词汇，而其实所谓的人工智能都可以被理解为就是一个函数（function），这个函数的功能强大，有以下例子：如上所示的例子，对于一个音频识别来说，就是一个函数，当我们将音频输入这个fff来说，他的功能就是将音频的内容映射为对应的句子；对于图像识别来说说，当输入一张猫的图片，函数应该将其映射为"Cat"，所以不难看出，其实所谓的机器学习，人工智能都是在干一件事情——****找一个函数，这函数可以将输入的转化为一个输出结果。
MATLAB实现ID3决策树西瓜分类系统
- 西瓜数据集包含了17个子集，每个样本由7个特征（色泽、根蒂、敲声、纹理、脐部、触感）组成，目标是区分好瓜和坏瓜。 8. 系统流程： - 系统从特征提取开始，通过信息熵和信息增益选择特征，然后构建决策树，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值