视觉机器学习20讲-MATLAB源码示例(3)-回归学习算法

本文介绍了回归学习算法,特别是线性回归,作为统计学中的一个概念,用于建立自变量和因变量之间的关系模型。通过MATLAB仿真展示了回归学习的应用,并对比了线性回归与逻辑回归的差异。文章提供了系列教程的资源链接,涵盖多种机器学习算法的MATLAB源码。
摘要由CSDN通过智能技术生成

视觉机器学习20讲-MATLAB源码示例(3)-回归学习算法

1. 回归学习算法

回归学习(Regression Learning),又称为回归分析(Regression Analysis),是一种近似方法,从未知概率分布的随机样本中获得目标函数。
 
提及回归学习,常常首先想起一个概念叫做线性回归。那么什么是线性回归呢?线性回归其实是一个统计学概念。

在统计学中,线性回归(Linear Regression)是利用称为线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。这种函数是一个或多个被称为回归系数的模型参数的线性组合。只有一个自变量的情况称为简单线性回归,大于一个自变量情况的叫做多元线性回归。

2. Matlab仿真

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%功能:演示回归算法算法在计算机视觉中的应用
%实现如何利用偏最小二乘回归模型实现数据拟合;
%环境:Win7,Matlab2018a
%Modi: C.S
%时间:2022-4-5
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

clear all;
close all;
clc;
%多重相关性计算
load('data.mat'); %读入数据文件data.mat
cr=corrcoef(data) %计算变量之间的相关系数
%建立偏最小二乘回归模型
%提取可能的主成分
X=data(:,1:3);
Y=data(:,3:6);
E0=stand(X)
F0=stand(Y)
A=rank(E0)
[W,C,T,U,P,R]=plspcr(E0,F0)

%主成分解释能力分析
%计算主成分累计复测定系数
RA=plsra(T,R,F0,A)
%计算主成分的信息解释能力
[Rdx,RdX,RdXt,Rdy,RdY,RdYt]=plsrd(E0,F0,T,A)

%计算第一主成分间的相关性
%通过t1/u1图像直观的考查第一主成分间的相关性
cr=plsutcor(U,T)

%计算PLS回归方程的系数
%标准化因变量关于主成分t1的经验回归系数
TCOEFF=R(:,1)
%标准化因变量关于标准化自变量的经验回归系数
SCOEFF=pls(1,5,W,P,R)%1为建模的主成分个数,5为自变量个数
%计算原始因变量关于原始自变量的经验回归系数
[COEFF,INTERCEP]=plsiscoeff(X,Y,SCOEFF)%对标准化的回归系数进行逆标准化处理,输出原始自变量对因变量的回归系数及常数项

%变量投影重要性分析与模型的改进
result=plsresult(W,RdY,RdYt,1)%result表示第j个自变量对因变量的解释能力模

3. 仿真结果

在这里插入图片描述

4. 小结

总结一下线性回归和逻辑回归的区别和联系:

(1)Linear Regression: 输出一个标量 wx+b,这个值是连续值,所以可以用来处理回归问题。

(2)Logistic Regression:把上面的 wx+b 通过 sigmoid函数映射到(0,1)上,并划分一个阈值,大于阈值的分为一类,小于等于分为另一类,可以用来处理二分类问题。

(3)更进一步:对于N分类问题,则是先得到N组w值不同的 wx+b,然后归一化,比如用 softmax函数,最后变成N个类上的概率,可以处理多分类问题。

回归学习算法相对K-means与KNN要复杂一些,有兴趣的推荐去仔细查看全文《机器学习20讲》中第三讲内容,源码在分享的资源中已打包好,欢迎取用。

本系列文章列表如下:
视觉机器学习20讲-MATLAB源码示例(1)-Kmeans聚类算法
视觉机器学习20讲-MATLAB源码示例(2)-KNN学习算法
视觉机器学习20讲-MATLAB源码示例(3)-回归学习算法
视觉机器学习20讲-MATLAB源码示例(4)-决策树学习算法
视觉机器学习20讲-MATLAB源码示例(5)-随机森林(Random Forest)学习算法
视觉机器学习20讲-MATLAB源码示例(6)-贝叶斯学习算法
视觉机器学习20讲-MATLAB源码示例(7)-EM算法
视觉机器学习20讲-MATLAB源码示例(8)-Adaboost算法
视觉机器学习20讲-MATLAB源码示例(9)-SVM算法
视觉机器学习20讲-MATLAB源码示例(10)-增强学习算法
视觉机器学习20讲-MATLAB源码示例(11)-流形学习算法
视觉机器学习20讲-MATLAB源码示例(12)-RBF学习算法
视觉机器学习20讲-MATLAB源码示例(13)-稀疏表示算法
视觉机器学习20讲-MATLAB源码示例(14)-字典学习算法
视觉机器学习20讲-MATLAB源码示例(15)-BP学习算法
视觉机器学习20讲-MATLAB源码示例(16)-CNN学习算法
视觉机器学习20讲-MATLAB源码示例(17)-RBM学习算法
视觉机器学习20讲-MATLAB源码示例(18)-深度学习算法
视觉机器学习20讲-MATLAB源码示例(19)-遗传算法
视觉机器学习20讲-MATLAB源码示例(20)-蚁群算法

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

mozun2020

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值