数学建模(NO.14分类模型)

一.应用

在这里插入图片描述

二.逻辑回归基础知识

1.线性概率模型(Linear Probability Model,简记LPM)

直接用原来的回归模型进行回归。
在这里插入图片描述

2.两点分布(伯努利分布)

在这里插入图片描述

3.连接函数的取法

【1】表达式

在这里插入图片描述
由于后者有解析表达式(而标准正态分布的cdf没有),所以计算logistic模型比probit模型更为方便。

【2】函数图像对比

在这里插入图片描述

f1=@(x) normcdf(x); % 标准正态分布的累积分布函数
fplot(f1, [-4,4]); %-44上画出匿名函数的图形
hold on;
grid on;
f2=@(x) exp(x)/(1+exp(x));
fplot(f2, [-4,4]);
legend('标准正态分布的cdf','sigmoid函数','location','SouthEast')

4.如何求解

在这里插入图片描述

5.怎么用于分类

在这里插入图片描述

三.实战

1.数据处理:生成虚拟变量

在这里插入图片描述
在这里插入图片描述
删去不需要的列:右键---->清除
调整
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

2.spss操作

(1)常规

在这里插入图片描述

(2)假如自变量有分类变量

在这里插入图片描述
两种方法
(1)先创建虚拟变量,然后删除任意一列以排除完全多重共线性的影响;
(2)直接点击分类,然后定义分类协变量,Spss会自动帮我们生成。
(如果没有生成虚拟变量这个选项,则说明SPSS没有安装到默认位置)

(3)逐步回归的设置

在这里插入图片描述
向前(向后)逐步回归可选择的统计量有所区别。
进入(或者除去)自变量的显著性水平可以自己调节

(4)结果分析

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
19个苹果样本中,预测出来为苹果的有14个,预测出来的正确率为73.7%;
19个橙子样本中,预测出来为橙子的有15个,预测出来的正确率为78.9%;
对于整个样本,逻辑回归的预测成功率为76.3%.
逻辑回归系数表:
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

3.表格中新添的两列解读

在这里插入图片描述
在这里插入图片描述

4.如果预测结果较差

可在logistic回归模型中加入平方项、交互项等

(1)操作

在这里插入图片描述

(2)加入了平方项后的结果

在这里插入图片描述

5. 检验过拟合现象

(1)概念

在这里插入图片描述

虽然预测能力提高了,但是容易发生过拟合的现象。
对于样本数据的预测非常好,但是对于样本外
的数据的预测效果可能会很差。
(是不是和龙格现象有点相似)

(2)确定合适的模型

把数据分为训练组测试组,用训练组的数据来估计出模型,再用测试组的数据来进行测试。(训练组和测试组的比例一般设置为80%和20%)

已知分类结果的水果ID为1‐38,前19个为苹果,后19个为橙子。 每类水果中随机抽出3个ID作为测试组,剩下的16个ID作为训练组。
(比如:17‐19、36‐38这六个样本作为测试组)

比较设置不同的自变量后的模型对于测试组的预测效果。

(注意:为了消除偶然性的影响,可以对上述步骤多重复几次,最 终对每个模型求一个平均的准确率,这个步骤称为交叉验证

四.Fisher线性判别分析

1.概念

LDA(Linear Discriminant Analysis)是一种经典的线性判别方法,又称Fisher判别分析。该方法思想比较简单:给定训练集样例,设法将样例投影到一维的直线上,使得同类样例的投影点尽可能接近和密集,异类投影点尽可能远离
在这里插入图片描述
详情视频

2. 找到线性系数向量

在这里插入图片描述

3.Spss操作

在这里插入图片描述

4.结果分析

在这里插入图片描述

五.多分类问题

1.引例

现在水果的类别一共有四种,其四个指标的平均值如下表所示:
在这里插入图片描述

2.Fisher判别分析可用于多分类

在这里插入图片描述
在这里插入图片描述

4.Logistic回归也可用于多分类

Sigmoid函数 推广为 Softmax函数

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值