一文掌握多分类logistic回归

161 篇文章 21 订阅
8 篇文章 3 订阅

Logistic回归分析(logit回归)一般可分为3类,分别是二元Logistic回归分析、多分类Logistic回归分析和有序Logistic回归分析。logistic回归分析类型如下所示。

Logistic回归分析用于研究X对Y的影响,并且对X的数据类型没有要求,X可以为定类数据,也可以为定量数据,但要求Y必须为定类数据,并且根据Y的选项数,使用相应的数据分析方法。

  • 如果Y有两个选项,如愿意和不愿意、是和否,那么应该使用二元Logistic回归分析(SPSSAU【进阶方法->二元logit】);
  • 如果Y有多个选项,并且各个选项之间可以对比大小,例如,1代表“不愿意”,2代表“无所谓”,3代表“愿意”,这3个选项具有对比意义,数值越高,代表样本的愿意程度越高,那么应该使用多元有序Logistic回归分析(SPSSAU【进阶方法->有序logit】);
  • 如果Y有多个选项,并且各个选项之间不具有对比意义,例如,1代表“淘宝”,2代表“天猫”,3代表“京东”,4代表“亚马逊中国”,数值仅代表不同类别,数值大小不具有对比意义,那么应该使用多元无序Logistic回归分析(SPSSAU【进阶方法->多分类logit】)。

 

1、多分类logistic回归分析基本说明

只要是logistic回归,都是研究X对于Y的影响,区别在于因变量Y上,logistic回归时,因变量Y是看成定类数据的,如果为二元(即选项只有2个),那么就是二元logistic回归; 如果Y是多个类别且类别之间无法进行对比程度或者大小,则为多分类logistic回归;如果Y是多个类别且类别之间可以对比程度大小(也称为定量数据,或者有序定类数据),此时则使用有序logistic回归。

多分类logistic回归的难点在于:因变量为类别数据,研究X对Y的影响时,如果为类别数据,那么不能说越如何越如何,比如不能说越满意越愿意购买;而只能说相对小米手机来说,对于手机外观越满意越愿意购买苹果手机。这就是类别数据的特点,一定是相对某某而言。这就导致了多分类logistic回归分析时,文字分析的难度加大,最好是使用SPSSAU的智能文字分析对应查看。

单独进行多分类logistic回归时,通常需要有以下步骤,分别是数据处理,模型似然比检验,参数估计分析和模型预测效果分析共4个步骤。

 

1) 数据处理

如果说因变量Y的类别个数很多,比如为10个,此时建议时对类别进行组合下,尽量少的减少类别数量,便于后续进行分析。此步骤可通过SPSSAU【数据处理->数据编码】完成。

如果说自变量X是定类数据,那么可对X进行虚拟哑变量处理,使用SPSSAU数据处理模块的生成变量功能。关于虚拟哑变量问题,可参阅SPSSAU的手册。其实定类数据在做影响关系研究时,通常都会做虚拟哑变量处理。而且做完之后,放入模型时一定要少放一项,比如专业分成理工科,文科类,体育艺术类。那么分析时一定要少放一项(少放的项是参考项),因为这涉及到分析时进行文字描述。至于少放那一项,由研究者自行决定即可。

 

处理完成数据,确保数据没有问题后,直接进入SPSSAU【进阶方法->多分类logit】进行分析即可。

 

2) 模型似然比检验

模型似然比检验用于对整个模型的有效性进行分析,一般对应的P值小于0.05即可。同时SPSSAU还提供AIC和BIC这两个指标值,如果模型有多个,而且希望进行模型之间的优劣比较,可使用此两个指标,此两个指标是越小越好。具体可直接查看SPSSAU的智能分析和分析建议即可。

 

3) 参数估计分析

参数估计分析其实就已经开始进入实质性的分析了。首先可分析R方,即模型的拟合水平情况,SPSSAU提供3个R方值指标,分别是McFadden R 方、Cox & Snell R 方和Nagelkerke R 方。此3个R 方均为伪R 方值,其值越大越好,但其无法非常有效的表达模型的拟合程度,意义相对交小,而且多数情况此3个指标值均会特别小,研究人员不用过分关注于此3个指标值。一般报告其中任意一个R方值指标即可。

 

接着分析回归系数,即X对于Y的影响。一定记住,分析时是先基于以***作为参照时,X对于**有正向影响。比如相对于小米手机作为参照项,用户对于手机外观的在乎程度会正向影响到用户选择苹果手机。简而言之即说明,相对小米手机,用户越在乎外观时,更加可能选择苹果手机。

 

4) 模型预测效果分析

多分类logistic回归建模时,还可以对模型的预测效果进行分析,当然一般情况下我们关注于影响关系,因而对于预测效果等不那么看重。即模型预测质量的关注乎相对较低,多数时候直接忽略它。

 

2、如何使用SPSSAU进行多分类logistic回归操作

关于多分类logistic回归的操作上,SPSSAU操作如下:

 

此处的X为3个,分别是性别,学历和年龄,学历和年龄是定量数据直接纳入模型中即可。但是性别是定类数据,所以先做了虚拟哑变量(数据处理->生成变量功能),然后性别分为两项分别是男和女,以男作为参照项,因此把女放入了模型中。

至于分析结果如下:

此处模型检验的原定假设为:是否放入自变量(性别_女, 学历, 年龄)两种情况时模型质量均一样;这里p值小于0.05,因而说明拒绝原定假设,即说明本次构建模型时,放入的自变量具有有效性,本次模型构建有意义。

模型的R方值仅为0.025,但一般报告下即可,伪R方值一般都比较低。特别需要注意分析:

上表格加蓝色底纹的项为P值小于0.05即呈现出显著的项,接下来逐一说明下,

性别_女的回归系数值为-0.309,并且呈现出0.05水平的显著性(z=-2.127,p=0.033<0.05),这说明相对于男性来讲,女性更加偏好于小米手机。为什么这样阐述呢,首先在多分类logistic回归,SPSSAU将因变量Y的第1项(此处为小米手机)作为参照项。那么性别_女呈现出负向影响,就说明‘越女性,越偏向于小米手机’,因而结论就是,相对于华为手机来讲,女性明显更加偏好于小米手机。

相对小米手机来讲,年龄的回归系数值为-0.437,并且呈现出0.01水平的显著性(z=-6.076,p=0.000<0.01),负向影响,即说明年龄越大(此处年龄是定量数据所以可以说年龄越大越如何),用户越不偏好华为手机。那就是说年龄越大用户越偏好于小米手机。

接着,相对于小米手机来讲,在苹果手机进行对比时,性别_女的回归系数值为0.436,并且呈现出0.01水平的显著性(z=4.192,p=0.000<0.01),意味着相对小米手机,性别_女会对苹果显著的正向影响关系。那就是说相对小米手机来讲,女性更加偏好于苹果手机的意思。

 

3、多分类logistic相关问题?

在使用SPSSSAU进行多分类logistic回归时,可能会出现一些问题,比如提示奇异矩阵,质量异常,Y值只能为0或1等,接下来一一说明。

 

第1点:出现奇异矩阵或质量异常

如果做多分类logsitic回归时提示奇异矩阵,通常有两个原因,一是虚拟哑变量设置后,本应该少放1项作为参考项但是并没有,而是把所有的哑变量项都放入框中,这会导致绝对的共线性问题即会出现奇异矩阵矩阵。二是X之间有着太强的共线性(可使用通用方法的线性回归查看下VIF值),此时也可能导致模型无法拟合等。先找出原因,然后把有问题的项移出模型中即可。

 

同时,如果因变量Y的分布极其不均匀,SPSSAU建议可先对类别进行组合,可使用数据处理里面的数据编码完成。

 

第2点:提示“Y的选项过少或过多”?

如果出现此提示,意味着因变量Y的选项不符合多分类logistic回归分析要求,通常情况下因变量Y的分类个数应该介于3~8个之间。

  •  用户可使用频数分析功能进行查看因变量Y的选项个数情况;

  • 如果选项个数过多需要进行合并处理等,可使用【数据处理->数据编码】功能操作。

 

第3点:OR值的意义

OR值=exp(b)值,即回归系数的指数次方,该值在医学研究里面使用较多,实际意义是X增加1个单位时,Y的增加幅度。如果仅仅是研究影响关系,该值意义较小。

 

第4点: wald值或z值

z 值=回归系数/标准误,该值为中间过程值无意义,只需要看p 值即可。有的软件会提供wald值(但不提供z 值,该值也无实际意义),wald值= z 值的平方。

 

第5点: McFadden R 方、Cox & Snell R 方和Nagelkerke R 方相关问题?

Logit回归时会提供此3个R 方值(分别是McFadden R 方、Cox & Snell R 方和Nagelkerke R 方),此3个R 方均为伪R 方值,其值越大越好,但其无法非常有效的表达模型的拟合程度,意义相对交小,而且多数情况此3个指标值均会特别小,研究人员不用过分关注于此3个指标值。一般报告其中任意一个R方值指标即可。


以上就是本次分享的内容,登录SPSSAU官网了解更多。

  • 18
    点赞
  • 105
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
有序多分类logistic回归是一种常用的多分类问题解决方法。在这个分类问题中,我们需要预测的变量是具有有序关系的离散变量,例如评分或者等级。 与普通的logistic回归不同,有序多分类logistic回归使用了一个名为有序logit模型的技术。这个模型可以通过最大似然估计来拟合训练数据,寻找最佳的模型参数。 有序logit模型的基本思想是通过多个二元logistic回归模型来拟合每个类别和其他类别之间的关系。对于每个类别,我们选择一个参考类别,并将其看作是基准,然后使用logistic回归来建立其他各个类别与基准类别之间的关系。这样,我们就可以得到多个二元logistic回归模型。 对于预测新数据的分类,我们首先使用每个二元logistic回归模型得到该数据属于各个类别的概率,然后根据这些概率来进行分类。一种常用的方式是选择概率最大的类别作为预测结果。 有序多分类logistic回归在实际应用中具有广泛的适用性,例如在医学诊断中,可以使用这个方法将患者的疾病情况分为不同的严重程度等级。此外,有序多分类logistic回归也可以用于市场调查、产品评价等领域。 总而言之,有序多分类logistic回归是一种有效的多分类问题解决方法,通过使用有序logit模型,能够灵活地处理具有有序关系的离散变量,并能够在实际应用中发挥重要的作用。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值