数学建模 --- 分类模型：逻辑回归 与 LDA

最新推荐文章于 2023-02-04 20:10:37 发布
最新推荐文章于 2023-02-04 20:10:37 发布
阅读量2.8k 收藏 21
点赞数 2
分类专栏： 数学建模 文章标签： 逻辑回归 数学建模 LDA
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43779658/article/details/108125007
版权

分类问题种类

分类问题种类

  1. 二分类：
    逻辑回归(logistic regression)
    Fisher线性判别分析 — LDA
  2. 多分类
    Spss中的多分类线性判别分析和多分类逻辑回归操作

二分类

将定性变量->数值变量 — Spss使用虚拟变量

在这里插入图片描述
创建虚拟变量：

  • 引入虚拟变量的个数一般为分类数 - 1
    比如：定性变量(男/女)，有两个分类，所以设置一个虚拟变量(0男，1女)
  • 在这里插入图片描述比如有两类水果：会新增三个变量(两个是变量对应样本标签为两类水果，还有一个标签对应要代表测试集和训练集)
    对于二分类，可能要经过修改新增的标签来得到虚拟变量

逻辑回归(logistic regression)

在这里插入图片描述

  1. 因变量：类别(为数值)
  2. 协变量：自变量
逐步回归 — 一般是向后逐步回归

  1. 如果不使用逐步回归，选择输入按钮

  2. 逐步回归分析
    在这里插入图片描述

界面中的分类按钮 — 选择定性变量并选择对照组

在这里插入图片描述

界面中的保存按钮

在这里插入图片描述

  • 概率
    二分类中， y = = 1 y==1 y==1发生的概率
  • 组成员
    分类的结果，预测样本属于哪一组
界面中的选项按钮

在这里插入图片描述
逐步回归分析

  • 进入
    使用向前逐步回归时，进入的概率
  • 除去
    使用向后逐步回归时，除去的概率
结果分析

在这里插入图片描述

  • y ^ \hat{y} y^​ 二分类下，为该样本为 y = = 1 y==1 y==1的概率

预测结果差

在这里插入图片描述
但注意可能会过拟合

Fisher线性判别分析 — LDA

在这里插入图片描述
在这里插入图片描述

  • 分组变量：根据哪个变量的值进行分组
    要定义范围
统计按钮

在这里插入图片描述

分类按钮

在这里插入图片描述

  • 摘要表：可以得到分类的准确率
保存按钮

在这里插入图片描述

  • 预测组成员：二分类预测的结果是0还是1
  • 组成员概率：属于1的概率和属于0的概率

多分类

Fisher线性判别分析 — LDA

假设有四类
仅需要修改 定义范围 即可
在这里插入图片描述

逻辑回归(logistic regression)

在这里插入图片描述

保存按钮

在这里插入图片描述

  • 估算响应概率：对于每一种类别的概率
选项按钮

在这里插入图片描述逐步回归分析

  • 使用逐步回归后可以调整
条件按钮

在这里插入图片描述

结果分析

在这里插入图片描述

  • 典则判别函数系数
    如果是n分类，则用于划分的平面个数有n-1个，则有n-1个函数

检测过拟合

在这里插入图片描述
在这里插入图片描述

参考资料：数学建模清风视频

星码
关注
  • 2
    点赞
  • 踩
  • 21
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
数学建模学习之Logistic模型
02-18
logistic回归又称logistic回归分析，主要在流行病学中应用较多，比较常用的情形是探索某疾病的危险因素，根据危险因素预测某疾病发生的概率，等等。例如，想探讨胃癌发生的危险因素，可以选择两组人群，一组是胃癌组，一组是非胃癌组，两组人群肯定有不同的体征和生活方式等。这里的因变量就是--是否胃癌，即“是”或“否”，为两分类变量，自变量就可以包括很多了，例如年龄、性别、饮食习惯、幽门螺杆菌感染等。自变量既可以是连续的，也可以是分类的。通过logistic回归分析，就可以大致了解到底哪些因素是胃癌的危险因素。
数学建模的29个通用模型及matlab解法
11-03
在数学建模中，MATLAB是一种非常强大的工具，它提供了丰富的数学函数库和可视化功能，使得模型构建、求解和结果分析变得更为便捷。本文将详细介绍29个数学建模的通用模型及其MATLAB解法，帮助有数学建模需求的朋友们...
数学建模学习（1）———— 逻辑回归的使用和案例（2022.7.18）
zyx111999222的博客
07-17 4490
逻辑回归是一种分类模型，但为什么会含有回归二字了，是因为算法原理同样涉及到回归方程，方程如下上面个方程是用来预测连续变量的，取值范围为R逻辑回归，是用来预测物体是a类还是b类，但本质其实是预测该物体属于a或b的概率，而概率的取值范围为（0,1）,所以不能直接用线性回归方程来预测概率，那么如何把一个取值范围是R的回归方程变为取值范围为（0,1）的内容了？我们就需要，使用Sigmoid函数#sigmoidplt.show()out。......
数学建模笔记-第九讲-分类模型-逻辑回归
C语言/数据结构/数学建模/深度学习/生物信息
08-15 1142
数学建模笔记清风课程，分类模型，包括逻辑回归与fisher线性回归
【10】 数学建模 | 分类模型 | 逻辑回归和Fisher判别分析
weixin_45615071的博客
08-20 4077
一、前言 这篇文章复盘分类模型。对于二分类模型，本文介绍逻辑回归和Fisher线性判别分析两种分类算法；对于多分类模型，我们将简单介绍Spss中的多分类线性判别分析和多分类逻辑回归的操作步骤 利用spass软件对数据进行预处理：生成虚拟变量 1.生成虚拟变量 2.删除多余虚拟变量 3.修改虚拟变量的名称 二、逻辑回归的原理 从宏观上分析，逻辑回归就是在原来回归思想上，添加了一个连接函数 问题分析的角度：对于因变量为分类变量的情况，可以使用逻辑回归来进行处理，即把y看成是事件发生的概率，y >=.
浅尝辄止_数学建模（笔记_用SPSS进行逻辑回归和Fisher线性判别分析)
ICISTRUE的博客
09-01 2474
文章目录分类模型 分类模型
数学建模算法模型——数据的统计处理.zip
最新发布
10-10
它通过找到最优的决策边界来最大化类别间的差异，最小化类别内的差异，例如，逻辑回归和费希尔的线性判别分析（LDA）。 6. **主成分分析（PCA）**：PCA是一种降维技术，通过线性变换将高维数据转换为一组各维度线性...
MATLAB工具箱大全-脑MRI肿瘤的检测与分类
02-10
2. 机器学习模型：利用Machine Learning Toolbox中的各种模型（如逻辑回归、决策树、随机森林、神经网络、支持向量机等）训练分类器，预测肿瘤的类型。 3. 模型评估：交叉验证、混淆矩阵、ROC曲线等统计指标评估模型...
数学建模常用算法（Python 程序及数据）- 多元分析.zip
04-29
7. **多元逻辑回归**：用于处理分类问题，尤其当预测变量为连续或离散且与目标变量间存在非线性关系时。在Python中，`sklearn.linear_model.LogisticRegression`可实现。 8. **判别分析**：包括线性判别分析（LDA）...
python3.6及scikit-learn包
12-10
1. **分类**：如逻辑回归、支持向量机（SVM）、随机森林、梯度提升机（XGBoost）等。 2. **回归**：线性回归、多项式回归、岭回归、Lasso回归等。 3. **聚类**：K-Means、DBSCAN、谱聚类等。 4. **降维**：主成分...
如何利用SPSS进行主成分分析
12-01
很实用的教程,方便大家了解如何用SPSS进行主成分分析。
线性判别分析(LDA)入门
09-26
线性判别分析(LDA)的入门资料，给出了详细的推导过程。
ISLR系列：(2)分类 Logistic Regression & LDA & QDA & KNN
weixin_30609331的博客
09-28 521
Classification 此博文是 An Introduction to Statistical Learning with Applications in R 的系列读书笔记，作为本人的一份学习总结，也希望和朋友们进行交流学习。 该书是The Elements of Statistical Learning 的R语言简明版，包含了对算法的简明介绍以及其R实现，最让我感兴趣的是算法的...
【机器学习】线性模型（线性回归、Logistic回归、LDA）
weixin_63062756的博客
02-04 1053
最小二乘法求线性回归、logistics回归、LDA、多分类问题
scikit-learn机器学习（三）--逻辑回归和线性判别分析LDA
蘇丶的博客
04-02 6050
scikit-learn机器学习（一）–多元线性回归模型 scikit-learn机器学习（二）–岭回归，Lasso回归和ElasticNet回归 scikit-learn机器学习（三）–逻辑回归和线性判别分析LDA 前面的线性回归模型是解决预测问题的，根据样本的多个特征，推测其目标值，但是现实生活中除了这种预测问题之外，还有一种问题就是分类问题，比如这个人是否得病，邮件是否为垃圾邮件等 ...
LDA及logistic回归与分类python3 实现
angie2011的博客
04-02 295
一、LDA线性判决分类 总之求解 1、计算每类均值u0,u1为向量2、计算Sw3 w=(u0 - u1) * (mat(sw).I)以机器学习西瓜数据3.0为例 from numpy import * import numpy as np import matplotlib.pyplot as plt import math # pandas 模块可以将读取到的表...
R在市场调查中的应用--逻辑回归和LDA
JohnSuperD的博客
08-22 1749
我们一般接触的统计学习的模型多半是因变量Y为数值型的模型，这一类问题可以统称为回归（regression）问题，当Y不再是数值而是类别的时候，就需要使用类似逻辑回归、LDA之类的统计模型，而这一类的问题我们统称为分类（classification）问题。 在本文章中，我会简单介绍逻辑回归和LDA在R中的使用，并会比较两种模型的拟合效果。
逻辑回归算法（一）——原理推导
wordpython
07-23 413
算法目的：是分类还是回归？是经典的二分类算法！ 机器学习算法选择：先逻辑回归再用复杂的，能简单还是用简单的 逻辑回归的决策边界：可以是非线性的 ...
2022建模国赛C题——逻辑回归的应用
qq_61662476的博客
09-20 1360
2022数学建模国赛——运用逻辑回归来分类。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值