谈谈linear regression 和 SVM

最新推荐文章于 2024-07-26 13:48:51 发布
最新推荐文章于 2024-07-26 13:48:51 发布
阅读量4.8k 收藏 3
点赞数 2
分类专栏： 数据挖掘 文章标签： svm 线性回归
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/baidu_36316735/article/details/58148449
版权
本文探讨了线性回归和SVM在分类问题中的应用与区别。线性回归可能因初始化状态不同导致多种分类结果，而SVM则通过最大化间隔来优化分类效果，尤其在高维和样本数小于维度的场景下表现优秀。SVM的优缺点也进行了概述，包括对内存效率和核函数的灵活性，以及在特征数量远大于样本数时的局限性。
摘要由CSDN通过智能技术生成

线性分类是一个简单而又非常实用的概念。因为其速度快，在工业界中广泛应用。

SVM一般是学习机器学习接触的又一个学习方法，非常fasion，学术界研究大热，数学上有严格的证明。但是由于神经网络的优异表现，风头渐渐不如以前。

这里就一个知识点进行自己小小总结。


线性回归和SVM有什么区别呢。网上很多人直接拿出这张图给你。例如知乎上这个答案 https://www.zhihu.com/question/26768865


只要看过SVM，对这个图都非常熟悉，但是究竟有什么区别呢。如果不跑一跑真实的例子，理解永远不深。下面不谈理论，直接从结果上看看LR和SVM的区别。

建议学习所有机器学习算法中，至少自己能编写逻辑回归的算法，会理解更好。

最低0.47元/天 解锁文章
NumX
关注
专栏目录
白话机器学习算法理论+实战之支持向量机（SVM）
Miracle8070
02-12 5084
1. 写在前面 如果想从事数据挖掘和数据分析的工作，掌握常用的机器学习算法是非常有必要的，比如我之前写过的一篇十大机器学习算法的小总结，在这简单的先捋一捋， 常见的机器学习算法： 监督学习算法：逻辑回归，线性回归，决策树，朴素贝叶斯，K近邻，支持向量机，集成算法Adaboost等 无监督算法：聚类，降维，关联规则, PageRank等 为了详细的理解这些，曾经看过西瓜书，统计学习方法，机器学习...
linear SVM
03-21
matlab的linearSVM,用于分类，算了我实在编不下去了，凑个字数。
LR和SVM、线性回归的联系与区别
sinat_32043495的博客
03-24 1万+
LR和SVM的联系：都是监督的分类算法都是线性分类方法 (不考虑核函数时）都是判别模型 判别模型和生成模型是两个相对应的模型。 判别模型是直接生成一个表示P(Y|X)P(Y|X)或者Y=f(X)Y=f(X)的判别函数（或预测模型） 生成模型是先计算联合概率分布P(Y,X)P(Y,X)然后通过贝叶斯公式转化为条件概率。 SVM和LR，KNN，决策树都是判别模型，而朴素贝叶斯，隐马尔可夫模型是生成模型...
线性回归（linear Regression）基本原理
最新发布
A2207519603的博客
07-26 1016
本文简单介绍了线性回归模型的数学理论基础
Linear SVM
qq_30534935的博客
04-06 680
供个人学习记录，来源于： https://github.com/machinelearningmindset/TensorFlow-Course#why-use-tensorflow SVM参考： https://blog.csdn.net/qq_30534935/article/details/83064552 https://blog.csdn.net/qq_30534935/article/...
线性回归、逻辑回归及SVM
qq_43660987的博客
06-25 2535
1，回归（Linear Regression） 回归其实就是对已知公式的未知参数进行估计。可以简单的理解为：在给定训练样本点和已知的公式后，对于一个或多个未知参数，机器会自动枚举参数的所有可能取值（对于多个参数要枚举它们的不同组合），直到找到那个最符合样本点分布的参数（或参数组合）。当然，实际运算有一些优化算法，肯定不会去枚举的。注意，回归的前提是公式已知，否则回归无法进行。回归中的公式基本都是数...
16. 谈谈判别式模型和生成式模型1
08-03
6. **线性回归（Linear Regression）**：用于预测连续数值型的目标变量，通过找到最佳直线拟合数据。 7. **逻辑回归（Logistic Regression）**：虽然名字里有“回归”，但实际上是分类模型，通过Sigmoid函数将线性...
机器学习-逻辑回归分析（Python）
热门推荐
MsSpark的博客
11-12 3万+
前言 回归和分类方法是机器学习中经常用到的方法，本文首先介绍这两种方法的区别和联系，然后对分类方法中的逻辑回归进行较详细的说明（包括其基本原理及评估指标），最后结合案例介绍如何利用Python进行逻辑回归分析。 一、分类与回归 1.1什么是分类和回归 区分回归问题和分类问题： 回归问题：输入变量和输出变量均为连续变量的问题； 分类问题：输出变量为有限个离散变量的问题。 因此分类及回归分别...
理解SVM的三层境界
shuimanting520的博客
05-03 3977
前言     动笔写这个支持向量机(support vector machine)是费了不少劲和困难的，原因很简单，一者这个东西本身就并不好懂，要深入学习和研究下去需花费不少时间和精力，二者这个东西也不好讲清楚，尽管网上已经有朋友写得不错了(见文末参考链接)，但在描述数学公式的时候还是显得不够。得益于同学白石的数学证明，我还是想尝试写一下，希望本文在兼顾通俗易懂的基础上，真真正正能足以成为一
SVM回归代码
05-28
SVM回归代码，实用安全，matlab实现的
总结 LR 与 SVM 以及 线性回归的区别与联系
黄飞的博客专栏
04-05 3388
LR 与 SVM 的联系与区别相同点 LR 与 SVM 都是分类算法； LR 与 SVM 都是监督学习算法； LR 与 SVM 都是判别模型；关于判别模型与生成模型的详细概念与理解，笔者会在下篇博文给出，这里不详述。 如果不考虑核函数，LR 与 SVM 都是线性分类算法，也就是说他们的分类决策面都是线性的这里需要说明的是，LR 也是可以用核函数的，因在 LR 算法里，每个样本点都必须参与决策面的计算
svm和线性回归的区别是它的损失函数不同吗
m0_57236802的博客
10-08 219
这两种损失函数具有不同的几何和数学属性，导致模型具有不同的行为和性能。特别是，SVM试图找到一个决策边界，该边界能够最大化分类间隔，而线性回归试图最小化预测误差。这两种方法在不同的问题和数据集上可能会有不同的表现。是的，SVM（支持向量机）和线性回归的主要区别之一就是它们使用的损失函数不同。
机器学习技法笔记--- Linear SVM
子衿_青青的博客
05-03 3586
1）引入 线性可分的情况下，下面哪条线（或者哪个面）算是最好的？ 2）为什么选择的超平面（线）Hyperplane要离Xn最远？ 因为如果未来的数据X ≈ 已测的数据Xn（也就是看做有一些测量误差noise），那么一旦超平面过近，就有可能导致分类错误 超平面越远，所容忍的噪声越多（噪声是导致过拟合的原因之一） 3）怎样的Hyperplane才算是最远？ 可以看成把一根线不断
使用SVM进行非线性回归(Do non-linear regression with OpenCV's SVM tool)
NorthGod的专栏
06-04 7597
OpenCV集成的东西越来越多了，不用费劲去配置很多环境，这点还是挺方便的，原来一直用SVM进行分类，最近了研究一下使用SVM进行回归，发现还是很好用的。 下面就用OpenCV的SVM工具对Sinc函数的样本进行回归，代码比较简单，效果还不错。 本文为原创，转载请注明，本文地址：http://blog.csdn.net/houston11235/article/details/9023229。
机器学习 | 机器学习100天(6) --- Linear SVM
sdu_hao的博客
01-16 588
机器学习100天系列学习笔记基于机器学习100天(中文翻译版),机器学习100天(英文原版） 所有代码使用iPython Notebook实现 完整代码 目录 实验综述 数据集 1.数据预处理 2.训练Linear SVM模型 3.预测 4.评估预测 5.可视化(针对低维数据) 实验综述 数据集 1.数据预处理 '''1. 导入相关库''' impor...
MATLAB多分类，使用libsvm和linear的详解和区别
Camaro的专栏
09-26 2921
MATLAB多分类，使用libsvm和linear的区别最近还是在做多分类的问题，之前使用的是libsvm进行多分类，主要使用的是1V1和1Vrsst，具体可参见这篇博文。这两天看到liblinear这个库，针对多分类问题有很好的改进。这里随笔记下：liblinear链接，liblinear相比于libsvm最大的优点是快，二者针对多分类的区别在官网也有详细的解释： For some multi-
SVM回归
The research on computer technolog
04-06 528
from sklearn.svm import SVR import numpy as np n_samples, n_features = 10, 5 np.random.seed(0) y = np.random.randn(n_samples) x= np.random.randn(n_samples, n_features) clf = SVR(gamma='scale', C=1.0, ...
linearregression()和ols
07-27
`linearregression()`和`ols`都是用于线性回归的方法，但在不同的工具包或库中具体实现可能有所不同。 `linearregression()`通常是指在机器学习库（如scikit-learn）中的线性回归模型。它提供了一个用于拟合线性...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值