LDA续:LDA之于二分类,QDA

本文详细探讨了LDA如何应用于二分类问题,解释了两个类别的对数几率、ROC曲线和二分类混淆矩阵的概念。接着介绍了QDA(二次判别分析),并比较了Naive LDA和Naive QDA。最后讨论了各模型的参数个数,为理解这些分类方法提供了深入见解。
摘要由CSDN通过智能技术生成

在文章LDA(线性判别分析,Linear Discriminant Analysis)中,我们已经从贝叶斯理论的角度推导了LDA。现在我们来看LDA是如何应用于二分类问题的。


两个类别的对数几率

和逻辑回归一样,我们可以通过求两个类别的对数几率来判断当前数据属于哪个类别。
l o g P ( Y = 1 ∣ X = x ) P ( Y = 0 ∣ X = x ) = l o g P 1 ( x ) P 0 ( x ) + l o g π 1 π 0 = l o g π 1 π 0 − 1 2 ( μ 1 + μ 0 ) T Σ − 1 ( μ 1 + μ 0 ) + x T Σ − 1 ( μ 1 − μ 0 ) ( 1 ) \begin{aligned} log\frac{P(Y=1\mid X=x)}{P(Y=0\mid X=x)} &=log\frac{P_1(x)}{P_0(x)}+log\frac{\pi_1}{\pi_0}\\ &=log\frac{\pi_1}{\pi_0}-\frac{1}{2}(\mu_1+\mu_0)^T\Sigma^{-1}(\mu_1+\mu_0)+x^T\Sigma^{-1}(\mu_1-\mu_0) \qquad(1) \end{aligned} logP(Y=0X=x)P(Y=1X=x)=logP0(x)P1(x)+logπ0π1=logπ0π121(μ1+μ0)TΣ1(μ1+μ0)+xTΣ1(μ1μ0)(1)
若(1)>0, 则认为 x x

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值