西瓜书Task 5 线性判别分析

最新推荐文章于 2024-08-12 19:38:15 发布
最新推荐文章于 2024-08-12 19:38:15 发布
阅读量165 收藏
点赞数 2
文章标签： 机器学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/arbreor/article/details/139247525
版权

线性判别分析

投影到一条直线，使正例尽可能近，反例尽可能远

两类样本投影到直线w上的投影为（异类），两类样本的协方差为（同类）

为使正例尽可能近——下尽可能小；反例尽可能远——上尽可能大

#类内散度矩阵sw

#类间散度矩阵sb

#LDA欲最大化的目标，广义瑞利商

#全局散度矩阵——LDA推广到多分类任务中

arbreor
关注
  • 2
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
吃瓜教程Task2 机器学习西瓜书第三章线性模型
iloveMIShanhan的博客
10-13 400
在第三章的线性模型中只介绍了线性回归，对数几率回归和线性判别分析。这三个模型也分别对应了常见的三类不同的机器学习任务，分别是回归问题，分类问题和特征降维。但是线性模型不止此三个，凡是最终要学习的假设空间定义为f(x)=WtX+B的本质上都可以称之为线性模型，譬如后续章节中介绍的感知机和支持向量机，最终学习到的模型也是f(x)=WtX+B的形式。这几个算法的区别仅仅在于学习的“策略”不同，学习“策略”就是我们从有无限个参数确定的无限个线性函数中选出来我们最想要的那个线性函数的所依赖的准则和标准。
Task2 吃瓜教程——西瓜书第三章 线性模型
zaishaoyi的专栏
06-20 388
定义：线性模型（linear model）是通过属性的线性组合来进行预测的函数模型。给定由d个属性组成的示例线性模型学习的过程即确定和的过程。给定数据集, 其中(列向量)，。试图学得 和以尽可能准确预测输出的过程，叫作线性回归。示例中属性是d维向量， 共有m个样本。问题：数据集简写为, 试图学得使得 (1)损失函数——均方误差：(2)记最小二乘法参数估计:分别对求导得：(3)(4)因为在偏导为0时取得极值，因此令（3）(4)为0，可解得：其中多元线性回归需要转换为矩阵的运算。而b无法直接在矩阵中表示。可以
西瓜书-Task02-线性模型
m0_52122297的博客
07-19 155
1. 基本形式 线性模型试图学得一个通过属性的线性组合来进行预测的函数，即 一般用向量形式写成： 非线性模型：在线性模型的基础上通过引入层级结构或高维映射而得。 2. 线性回归 线性回归试图学得 确定w和b的方法：关键在于如何衡量f(x)与y之间的差别，可通过均方误差来进行处理，通过使均方误差最小化来求得对应的w和b，即 多元线性回归：下面更一般的情形是针对数据集D而言，样本由d个属性描述，则任务变成如下所示： 同样，可以利用最小二乘法来对w和b进行估计，可将...
西瓜书 Task3 对数几率回归
arbreor的博客
05-21 176
逼近y，式(3.14)在形式上仍是线性回归，但实质上已是在求取输入空间到输出空间的非线性函数。#对数几率函数：近似单位阶跃函数的替代函数，将z值转化为接近0或1的y值，作为。#二分类任务：其输出标记y∈{0,1}，而线性回归模型产生的预测值。可见，对数线性回归是广义线性函数在g(.)=ln(.)的特例。尺度上变化——输出标记的对数：线性模型逼近的目标。#广义线性模型：考虑单调可微函数g(.)，令。#分类任务：找单调可微函数将分类任务的。#y视为后验概率估计，3.19可重写为。的可能性，1-y视为。
【机器学习】西瓜书 03 线性回归模型
wyw970624的博客
09-16 606
DataWhale吃瓜 Task2
【Datawhale-机器学习-Task04-线性判别分析】
qumule的博客
06-28 568
主要是通过设计投影方向，使得同类样本之间投影点距离尽可能靠近，异类样本之间的距离尽可能的远，这样对于新样本经过投影后就非常容易判别分类。**【概念】**线性判别分析（LDA）是一种经典的线性学习方法，主要思路是，将样例投影到一条直线上面，可以使得同类样例的投影点尽可能接近，不同的样例之间距离尽可能远；，最大值为0，且存在极值点，因此，当极值点带入且不等于0的时候，一定是极小值点。的行与列互换，并取各矩阵元素的共轭复数，得一新矩阵，称为厄米特共轭，以。的大小并不重要，因此为简便计算，可以令其等于1。
机器学习_西瓜书_C3线性模型_待更新
d1596324的博客
07-14 328
西瓜书+南瓜书: 第三章_线性模型
【周志华机器学习】 西瓜书吃瓜教程 学习笔记总结Task05
m0_57491311的博客
08-30 402
周志华机器学习西瓜书南瓜书吃瓜教程笔记总结，自用带有英文名词翻译便子记忆其概念专有名词。
西瓜书学习任务打卡task02.pdf
01-17
《统计学习方法》第六章-线性回归自用笔记
MapTask阶段shuffle源码分析
08-26
MapTask阶段shuffle源码分析 MapTask阶段shuffle源码分析是Hadoop MapReduce框架中一个重要的组件，它负责将Mapper的输出数据进行分区、排序和缓存，以便于后续的Reduce任务处理。在本文中，我们将深入探讨MapTask...
task2_线性多项式回归_
09-29
在本任务中，我们重点探讨如何利用线性多项式回归来分析和预测数据，通过绘制图表来理解模型的性能并评估其准确性。 线性多项式回归的核心是构建一个线性方程，形式为`y = wx + b`，其中`y`是目标变量（因变量），`...
MapReduceV1：TaskTracker端启动Task流程分析
02-26
我们基于Hadoop1.2.1源码分析MapReduceV1的处理流程。TaskTracker周期性地向JobTracker发送心跳报告，在RPC调用返回结果后，解析结果得到JobTracker下发的运行Task的指令，即LaunchTaskAction，就会在TaskTracker...
年化26.4%，quantlab5.5发布——多任务机器学习组合优化，可视化策略生成向导（代码+数据）
weixin_38175458的博客
08-09 499
三年前，开始认真输出内容，就有了B计划的样子。——现在的生活是你三年前、五年前的模式所决定的，没有办法很快去改变。这个需要想清楚，这条路当然优点非常多，尤其适合内向，不喜欢，也不擅长与人协作、打交道的同学们。有时候不是努力就可以的，它需要一种特质，一点点悟性，还有很多的耐心。你理想中的生活与现实中的生活，之间的差距，就是你要去补足的地方。C计划，大胆一点，疯狂一点，守住底线的基础上勇敢做自己。三年后、五年甚至八年后，你想过上什么样的生活。但三年，五年后的生活，是你当下的模式所决定的。你的C计划是什么呢？
西瓜书学习笔记一 引言 基本术语 机器学习周志华
最新发布
XinxingZh的博客
08-12 677
日常生活中有很多，如判断天气、判断西瓜是否成熟。我们能做出有效的预判，是因为我们已经积累了许多经验，而通过对经验的利用，就能对新 情况做出有效的决策。机器学习它致力于研究如何通过计算的手段，利用经验来改善系统自身的性能。在计算机系统中，"经验"通常以"数据"形式存 在，因此，机器学习所研究的主要内容，是关于的算法，即"学习算法" (learning algorithm)。
《机器学习by周志华》学习笔记-决策树-03
vanilla698的博客
08-12 601
到目前为止，我们在决策树01、02中仅讨论了基于离散属性来生成决策树，而现实任务中常会遇到连续属性，所以在本章的学习中，我们将会讨论如何在决策树学习中使用连续属性。缺失值处理现实生活中的数据结构经常会遇到不完整的样本，即有些样本的某些属性值缺失。且样本数量越大，缺失的属性值会越多。例如医疗数据中隐私测量结果等。
零基础学会机器学习，到底要多久？
2301_79335566的博客
08-07 1021
这两天啊，有不少朋友和我说，想学机器学习，但是之前基础，不知道能不能学得会。首先说结论，，但是一定不能三天打鱼两天晒网，要持之以恒，至少每隔两天，必须得看一点。所以呀，我整理了关于机器学习各种内容的资料，跟大家一起看一看，从零基础入门，想要学会深度学习，到底需要多长时间呢？首先声明，没有广告！没有广告！没有广告！接下来呢，咱们就进入正题，要多久能学会，也就是基本掌握机器学习。这里，我们依次来看。
机器学习第十章-降维与度量学习
wastec的博客
08-12 538
K近邻学习是一种简单的监督学习算法，用于分类和回归任务。：存储训练数据及其标签，没有显式的训练过程。给定测试样本 x，若其最近邻样本为z 则最近邻分类器出错的概率就是x与z类别标记不同的概率，即：10.2低维嵌入在高维情形下出现的数据样本稀疏、距离计算困难等问是所有机器学习方法共同面的严重障碍，被称为"维数灾难"。
Sigmoid函数：机器学习中的关键激活函数
在路上的专栏
08-12 338
Sigmoid函数，也称为逻辑函数，其数学表达式为：其中，( e ) 是自然对数的底数，约等于2.71828。Sigmoid函数的特点是将任意实数映射到(0, 1)区间内，这使得它在处理二分类问题时特别有用。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值