【数学建模暑期培训】线性回归模型

线性回归

简单线性回归、多重线性回归
线性回归的前提条件:

  • 线性(散点图、散点图矩阵)
  • 独立性(DW)
  • 正态性(回归分析的过程中可以检验)
  • 方差齐性(回归分析的过程中可以检验)

在这里插入图片描述

数据处理

原始数据的中心化
在这里插入图片描述
原始数据的标准化
在这里插入图片描述
对于经验回归方程进行非中心化、中心化、标准化
在这里插入图片描述

step1 确定经验回归模型

以多元线性回归模型为例
在这里插入图片描述

  1. 确定模型
    Y = β 0 + β 1 X 1 + . . . + β p − 1 X p − 1 + e Y=\beta_0+\beta_1X_1+...+\beta_{p-1}X_ {p-1}+e Y=β0+β1X1+...+βp1Xp1+e
    其中 β 0 \beta_0 β0为常数项, β 1 , . . . , β p − 1 \beta_1,...,\beta_{p-1} β1,...,βp1为回归系数,e为随机误差。

  2. 观测数据
    在这里插入图片描述
    高斯马尔可夫假设(备注)
    在这里插入图片描述

  3. 确定位置参数估计值(最小二乘)

  4. 求经验回归方程
    在这里插入图片描述


处理非线性问题
在这里插入图片描述

step2 最小二乘估计

在这里插入图片描述

红色方块体现在论文中

step3 回归方程的显著性检验(方程、系数)

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

回归系数的显著性检验

拒绝原假设的时候进行回归系数的显著性检验
在这里插入图片描述
在这里插入图片描述

异常点(t检验)在这里插入图片描述

在这里插入图片描述

step4 衡量多重回归模型优劣的标准(判定系数、复相关系数、调整的判定系数)

判定系数

在这里插入图片描述
在这里插入图片描述
当判定系数=1时,他的线性依赖关系很好,反之。

复共线性

一些大型线性回归问题(自变量较多),最小二乘估计有时表现不理想:有些回归系数的绝对值异常大;回归系数的符号与实际意义相违背。
定义:回归自变量之间存在着近似线性关系

复共线性的严重程度的度量

在这里插入图片描述
在这里插入图片描述

共线性的解决方案

在这里插入图片描述

残差分析和回归假设

线性残差。
在这里插入图片描述

逐步回归

在这里插入图片描述

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
逻辑回归算法是一种用于解决监督学习问题的学习算法,主要用于二分类问题中。它通过使用逻辑回归模型对输入的数据进行分类,并对分类结果进行概率估计。逻辑回归的目标是最小化训练数据的标签值与预测值之间的误差。与线性回归不同的是,逻辑回归使用了特殊的函数来将预测值映射到的概率范围内。 逻辑回归使用了sigmoid函数来实现这种映射,该函数将任意实数值映射到的范围内。通过在线性回归模型的基础上使用sigmoid函数,逻辑回归可以得到一个函数,将输入数据映射为“y=1”的概率。这个概率可以理解为事件发生的概率。 逻辑回归的参数计算方法是梯度下降法,与线性回归的最小二乘法不同。梯度下降法是一种优化算法,通过迭代更新参数,使得模型的预测结果与真实标签尽可能接近。 总结来说,逻辑回归是一种用于解决二分类问题的学习算法,通过使用逻辑回归模型和sigmoid函数,对输入数据进行分类并进行概率估计。逻辑回归使用梯度下降法来计算参数,以最小化预测值与真实标签之间的误差。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [数学——Logistic Regression逻辑回归算法(二分类及多分类的Python代码实现)](https://blog.csdn.net/qq_36384657/article/details/107895666)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT0_1"}}] [.reference_item style="max-width: 50%"] - *3* [数学暑期集训11:逻辑回归(Logistic Regression)处理二分类问题](https://blog.csdn.net/qq1198768105/article/details/118946281)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT0_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Lydia.na

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值