【LR与SVM -3】LR和SVM的对比

最新推荐文章于 2021-12-09 18:00:09 发布
最新推荐文章于 2021-12-09 18:00:09 发布
阅读量373 收藏 1
点赞数
分类专栏： # 机器学习 文章标签： lr svm 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/The_dream1/article/details/113343577
版权

LR与SVM的相同点：

1、LR和SVM都是常用的二分类算法（由监督学习，可扩展到多分类）；

2、如果不考虑核函数，LR和SVM都是线性分类算法。
它们的分类决策面都是线性的（ y = w T X + b y=w^TX+b y=

最低0.47元/天 解锁文章
LR模型与SVM对比
真心乖宝宝的博客
09-09 524
LR模型与SVM对比 相同点 1. 都是线性分类器。本质上都是求一个最佳分类超平面。都是监督学习算法。 2. 都是判别模型。通过决策函数，判别输入特征之间的差别来进行分类。 不同点 1.损失函数不同： LR的损失函数是交叉熵，SVM损失函数为合页损失函数 SVM目标函数为损失函数加正则项： 2. 两个模型对数据和参数的敏感程度不同： (1) SVM考虑分类边界线附近的样本, 在支持向量外添加或减少任何样本点对分类决策面没有任何影响； LR受所有数据点的影响。直接依赖数据分布，每个样本点都会影响决策
【LR与SVM -2】SVM
YJ语
01-22 1106
1、SVM主要解决什么问题 SVM的全称是Support Vector Machine，即支持向量机， 主要用于解决模式识别领域中的数据分类问题，属于有监督学习算法的一种。 SVM要解决的问题可以用一个经典的二分类问题加以描述。 如上图所示，红色和蓝色的二维数据点显然是可以被一条直线分开的，在模式识别领域称为线性可分问题。 然而将两类数据点分开的直线显然不止一条。图1(b)和©分别给出了A、B两种不同的分类方案，其中黑色实线为分界线，术语称为“决策面”。 每个决策面对应了一个线性分类器。虽然在目前的数据上看
LR 与 SVM 的相同和不同
Yan456jie的专栏
09-13 9566
原文地址 在大大小小的面试过程中，多次被问及这个问题：“请说一下逻辑回归（LR）和支持向量机（SVM）之间的相同点和不同点”。第一次被问到这个问题的时候，含含糊糊地说了一些，大多不在点子上，后来被问得多了，慢慢也就理解得更清楚了，所以现在整理一下，希望对以后面试机器学习方向的同学有所帮助（至少可以瞎扯几句，而不至于哑口无言ha(*＾-＾*)）。 （1）为什么将LR和SVM放在一起来进行比较？
机器学习 | SVM与LR的比较
东南风的博客
08-05 1191
       两种方法都是常见的分类算法，从目标函数来看，区别在于逻辑回归采用的是logistical loss，svm采用的是hinge loss。这两个损失函数的目的都是增加对分类影响较大的数据点的权重，减少与分类关系较小的数据点的权重。SVM的处理方法是只考虑support vectors，也就是和分类最相关的少数点，去学习分类器。而逻辑回归通过非线性映射，大大减小了离分类平面较远的点的权...
SVM 准备工作(SVM vs LR)
03-29 1878
一、SVM vs LR综述 两种方法都是常见的分类算法，从目标函数来看，区别在于逻辑回归采用的是logistical loss，svm采用的是hinge loss。这两个损失函数的目的都是增加对分类影响较大的数据点的权重，减少与分类关系较小的数据点的权重。SVM的处理方法是只考虑support vectors，也就是和分类最相关的少数点，去学习分类器。而逻辑回归通过非线性映射，大大减
LR与SVM的区别
大太阳
09-15 725
LR采用log损失，SVM采用合页损失。 LR对异常值敏感，SVM对异常值不敏感。 在训练集较小时，SVM较适用，而LR需要较多的样本。 LR模型找到的那个超平面，是尽量让所有点都远离他，而SVM寻找的那个超平面，是只让最靠近中间分割线的那些点尽量远离，即只用到那些支持向量的样本。 对非线性问题的处理方式不同，LR主要靠特征构造，必须组合交叉特征，特征离散化。SVM也可以这样，还可以通过kernel。 svm 更多的属于非参数模型，而logistic regression 是参数模型，本质不同。其区别就可.
机器学习 - - - LR和SVM的联系与区别？
julyedu_7的博客
12-09 2373
解析一 LR和SVM都可以处理分类问题，且一般都用于处理线性二分类问题（在改进的情况下可以处理多分类问题） 区别： 1、LR是参数模型，svm是非参数模型，linear和rbf则是针对数据线性可分和不可分的区别； 2、从目标函数来看，区别在于逻辑回归采用的是logistical loss，SVM采用的是hinge loss，这两个损失函数的目的都是增加对分类影响较大的数据点的权重，减少与分类关系较小的数据点的权重。 3、SVM的处理方法是只考虑support vectors，也就是和分类最相关的少
1_LR-SVM_GBDT_K._batwi7_ai_
10-01
在IT领域，特别是数据科学和机器学习，LR（逻辑回归）、SVM（支持向量机）、GBDT（梯度提升决策树）以及K-means是常见的四种算法，它们各自拥有独特的特性和应用。下面将对这些算法进行详细介绍。 1. **逻辑回归...
鸢尾花数据的可视化，并使用Sklearn训练svm和lr模型并绘制出各自的ROC与P-R曲线.zip
最新发布
04-02
鸢尾花数据集常被用作新手入门机器学习算法时的第一个实践项目，因为它数据量适中且易于理解，同时适用于多种监督学习算法，如逻辑回归、K近邻（KNN）、支持向量机（SVM）、决策树以及各种集成方法等。
LR和SVM
Xafter0的博客
08-30 318
从目标函数的形式上看，使用线性核的SVM和带L2正则的LR是等价的，考虑 LR的目标函数 $$J_{LR}=-\frac{1}{m} \sum_{i=1}^{N} y_ilog(\frac{1}{1 + e^{-z_i}}) + (1 - y_i)log(1 - \frac{1}{1 + e^{-z_i}}) + \frac{\lambda}{2m}||w||^2$$ SVM的目标函数 $...
LR与SVM简述
wyyhuli的博客
03-14 519
LR与SVM相同点： 1、本质上都是线性（分类）算法； 2、都是有监督的判别模型 #####LR与SVM不同点 1、目标函数不同 LR的目标函数主要是最小化预测值与实际值的均放误差。（逻辑/对数回归用极大似然函数求解，一般回归用求导求解） SVM的目标函数是最大化举例超平面最近异类样本点间的间隔。 2、SVM是结构风险最小化，LR是经验风险最小化。 3、解决非线性问题是SVM可采用核函数的机制...
LR 和 SVM 的区别与联系
David's Notes
04-27 4207
LR 和 SVM 的区别与联系 联系 都是分类算法 在很大一部分人眼里，LR是回归算法。我是非常不赞同这一点的，因为我认为判断一个算法是分类还是回归算法的唯一标准就是样本label的类型，如果label是离散的，就是分类算法，如果label是连续的，就是回归算法。很明显，LR的训练数据的label是“0或者1”，当然是分类算法。其实这样不重要啦，暂且迁就我认为他是分类算法吧，再说...
LR与SVM比较
gdufs_phc的博客
04-15 514
相同点第一，LR和SVM都是分类算法。第二，如果不考虑核函数，LR和SVM都是线性分类算法，也就是说他们的分类决策面都是线性的。第三，LR和SVM都是监督学习算法。第四，LR和SVM都是判别模型。判别模型会生成一个表示P(Y|X)的判别函数（或预测模型），而生成模型先计算联合概率p(Y,X)然后通过贝叶斯公式转化为条件概率。简单来说，在计算判别模型时，不会计算联合概率，而在计算生成模型时，必须先计...
SVM和LR对比
JN_rainbow的博客
12-26 464
文章目录SVM和LR的相同之处SVM和LR的不同 SVM和LR的相同之处 二者都是监督学习方法. 二者都是分类算法. 二者都是线性分类算法，二者的分类决策面都是线性的，即求解一个超平面… SVM可以通过核技巧拓展到非线性. 二者都是判别模型 判别模型不会计算联合概率，而是直接生成表示条件概率的判别函数. 生成模型先计算联合概率，然后通过贝叶斯转化为条件概率. 常用的生成模型有朴素贝叶斯、隐马尔科...
LR和SVM的区别
渐渐遗忘的记忆
05-24 1103
LR和SVM的区别 相同点： 都是线性分类器； 都是判别模型； 损失函数目的都是增大对数据分类影响较大的数据点的权重，减少与分类关系较小的数据点的权重。 不同点： 本质上是损失函数不同： LR损失函数为logloss： J(θ)=−1m[∑i=1my(i)log⁡hθ(x(i))+(1−y(i))log⁡(1−hθ(x(i)))] J(\theta)=-\frac{1}{m}\left[\...
SVM和LR问题总结
BraveLii的专栏
05-23 383
1、松弛变量和惩罚系数相关问题https://www.bbsmax.com/A/ke5jQkj7Jr/https://blog.csdn.net/qll125596718/article/details/69109212、间隔最大化http://posts.careerengine.us/p/59fdd9f34820850a10d8a0be3、SVM和LR的异同https://blog.csdn....
LR和SVM的联系与区别。
GFDGFHSDS的博客
03-01 444
联系： 1.LR和SVM都可以处理分类问题，且一般都用于处理线性二分类问题（在改进的情况下可以处理多分类问题） 都是有监督的分类算法；如果考虑核函数，LR和SVM都是线性分类算法。 2.LR和SVM都是判别式模型。LR、SVM、决策树等判别式模型直接生成一个表示P(Y|X)或者Y=f(X)的判别函数 3两个方法都可以增加不同的正则化项，如L1、L2等等。所以在很多实验中，两种算法的结果是很接近的。...
NLP面试题目21-25
兰陵鸡王的博客
01-15 3206
21.LR和SVM的联系与区别？ 联系： 1、LR和SVM都可以处理分类问题，且一般都用于处理线性二分类问题（在改进的情况下可以处理多分类问题） 2、两个方法都可以增加不同的正则化项，如L1、L2等等。所以在很多实验中，两种算法的结果是很接近的。 区别： 1、LR是参数模型，SVM是非参数模型。 2、从目标函数来看，区别在于逻辑回归采用的是Logistical Loss，SVM采用的是hinge ...
机器学习算法深度解析：LR、GBDT、K-means与SVM
资源摘要信息:"本资源集包含了多种机器学习算法的教学和实践材料，涵盖了从基础的线性回归到复杂的学习方法如支持向量机(SVM)和梯度提升决策树(GBDT)。此外，还包含了逻辑回归和聚类算法K-means，这些都是数据科学...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值