高斯判别分析(GDA,Gaussian discriminant analsis)和Logistic回归

最新推荐文章于 2022-06-03 22:04:07 发布
最新推荐文章于 2022-06-03 22:04:07 发布
阅读量2k 收藏 7
点赞数 1
分类专栏： 机器学习 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012430664/article/details/78640268
版权
高斯判别分析与Logistic回归有密切关系，前者假设x|y服从高斯分布，可以转换成Logistic回归公式。然而，Logistic回归对x|y的分布假设较弱，适用于更多不确定分布的情况。高斯判别分析在数据符合高斯分布时需要较少训练数据，而Logistic回归在数据分布未知时展现出更好的鲁棒性，因此在实际应用中更为常见。
摘要由CSDN通过智能技术生成

高斯判别分析与Logistic回归之间是有一定关系的，通过公式转换，我们能够把高斯判别分析的公式转换为Logistic回归公式。但是高斯判别分析与Logistic回归之间有什么关系呢？

如果 x|y∼Gaussian (意为给定 y 的情况下 x 符合高斯分布)，那么对于

最低0.47元/天 解锁文章
JasonQ_NEU
关注
  • 1
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
斯坦福机器学习笔记（三）—— 高斯判别分析（GDA）
08-08
在机器学习领域中，高斯判别分析（Gaussian Discriminant Analysis，GDA）是应用统计学中的一种方法，它主要涉及概率分布的建模。GDA属于生成模型，与之对应的判别模型如逻辑回归和感知器算法，专注于直接从输入特征...
机器学习中的数学——常用概率分布（十）：贝塔分布（Beta分布）
热门推荐
冯·诺依曼
10-04 2万+
贝塔分布是关于连续变量x∈[0,1]x\in[0, 1]x∈[0,1]的概率分布，它由两个参数a>0a>0a>0和b>0b>0b>0确定： Beta(x∣a,b)=Γ(a+b)Γ(a)Γ(b)μa−1(1−μ)b−1=1B(a,b)μa−1(1−μ)b−1Beta(x|a, b)=\frac{\Gamma(a+b)}{\Gamma(a)\Gamma(b)}\mu^{a-1}(1-\mu)^{b-1}=\frac{1}{B(a, b)}\mu^{a-1}(1-\mu)^{b
线性分类（四）-- 高斯判别分析 GDA
CarpeDiem
12-10 2598
本篇介绍了高斯判别分析，首先介绍生成模型，狭义的给出了生成模型与判别模型的一般区别；然后介绍高斯判别分析模型的三个基本假设：1）先验概率服从伯努利分布，2）条件概率服从高斯分布，3）特征的条件概率相互独立（同线性模型中的特征不相关）通过最大似然估计导出模型的参数；最后对比了判别模型中的逻辑回归，一般而言，高斯判别模型的假设条件强于逻辑回归，在模型选择时需考虑数据的分布和模型的适用场景。 .
ML—高斯判别分析、朴素贝叶斯和逻辑回归
掉下个小石头
12-31 5056
华电北风吹 天津大学认知计算与应用重点实验室 最后修改日期：2015/8/22       近来看论文中经常看到GDA和朴素贝叶斯，并且论文中说的算法中用到的贝叶斯公式，对怎么用的原理以前没有仔细研究，今天仔细的看了斯坦福机器学习的关于GDA，NB和LR的讲义部分。理解了贝叶斯公式在GDA和NB中的原理，以及GDA和LR的关系。       与以前学习贝叶斯公式相比
ML—高斯判别分析
掉下个小石头
12-11 1794
华电北风吹 天津大学认知计算与应用重点实验室 日期：2015/12/11高斯判别分析属于生成模型，模型最终学习一个特征-类别的联合概率。0 多维正态分布 确定一个多维正态分布只需要知道分布的均值向量μ∈Rn×1\mu\in R^{n\times 1}和一个协方差矩阵Σ∈Rn×n\Sigma\in R^{n\times n}. 其概率密度函数如下： p(x;μ,Σ)=1(2π)n/2|Σ
GDA 和logistic回归的联系
EteYogix
07-16 1117
上篇博文中的GDA算法中，如果我们把p(y=1|x)整理变形一下，就能得到 这是logistic回归的h函数。 实质上，当我们假设p(x|y)服从正态分布时，p(y=1|x)必然是logistic函数，但反过来不成立，也就是说，前者是更强的假设，当我们对问题做更强的假设时，往往就能更精确地找到问题地解，当然前提时假设正确。或基本正确。 更一般地，只要我们对p(x|y)的建模属于GLM指数分布
python实现高斯判别分析算法的例子
09-18
高斯判别分析（Gaussian Discriminant Analysis，GDA）是一种经典的统计学方法，用于解决监督学习中的分类问题。在GDA中，我们假设每个类别（class）的数据都服从一个多维正态分布。这个算法是生成模型，因为它试图...
高斯判别算法学习笔记文档
07-17
高斯判别分析（Gaussian Discriminant Analysis，GDA）是一种生成学习算法，在机器学习中用于解决分类问题。生成学习算法与判别学习算法相对，它关注于如何从数据中学习出联合概率分布P(X,Y)，而不仅仅是条件概率...
GDA分析工具
07-17
GDA是一款强大而轻便的交互式反编译器，也是一款综合性逆向分析利器， 本软件具有分析速度快、体积小、内存占用少等优点。 软件无需安装java环境和android环境就可以使用，支持分析apk，dex，odex，oat类型文件， ...
《机器学习》__note2
u010008615的博客
09-22 528
Generative Learning algorithms上一篇文章主要讲了线性回归和逻辑回归，它们都是给定x对y进行建模，即求出 p(y| x;θ) ，本章将介绍另外一种学习算法：生成学习算法。主要思路是依据条件概率公式p(y|x) = p(x|y)p(y)/p(x)，间接求出p(y| x;θ) 。通俗点讲就是对不同的输出y分别建立模型，在预测的时候带入这两个模型，看谁概率更大。用公式来表示：
生成学习算法.高斯判别分析(GDA).GDA与Logistic模型
Cheese的博客
08-13 9890
《Andrew Ng 机器学习笔记》这一系列文章文章是我再观看Andrew Ng的Stanford公开课之后自己整理的一些笔记，除了整理出课件中的主要知识点，另外还有一些自己对课件内容的理解。同时也参考了很多优秀博文，希望大家共同讨论，共同进步。
学习笔记——机器学习--高斯判别分布与逻辑回归之间巧合
liuyhoo
08-10 1471
  本文讲有关高斯判别分布与逻辑回归之间有趣的联系。   假设有一个训练集合，包含一些负样本和一些正样本。现对每一类样本拟合出一个概率密度函数，则如图所示分别拟合出P(x|y=0);P(x|y=1)P(x|y=0);P(x|y=1)P(x\left| y=0 \right.);P(x\left| y=1 \right.)两类高斯概率密度函数，同时也会拟合出伯努利分布P(y)P(y)P(y)。则 ...
CS229学习笔记之生成学习算法
u012946504的博客
12-12 358
斯坦福大学公开课 CS229 系列学习笔记之五
判别式分类器vs生成式分类器：逻辑回归和朴素贝叶斯的比较
老笨妞
12-18 5298
本文是二货算法妇女对ng和Jordan的神论文《On Discriminative vs. Generative classifiers: A comparison of logistic regression and naive Bayes》的翻译式理解。 由于在看这篇论文时还没有仔细看过VC 界和VC维，翻译起来很吃力，也理解很不到位，很多公式都不理解。各位不喜随便喷。下面是我对论文的机械式理
【图像加密】基于改进Logistic混沌图像加密与解密含高斯噪声、中值滤波并计算相关性、恢复相关性、均方根误差附matlab代码
qq_59747472的博客
06-03 345
随着互联网的蓬勃发展，各种信息通过网络飞速增长传播，为社会提供便利的同时也带来了许多负面效应。大量个人隐私被泄露、财产损失不断增加、企业重要数据被截取篡改以及国家各种机密保密文件泄露，信息安全岌岌可危。信息作为极其重要的战略资源，如何获取、处理信息和保障信息安全成为体现一个国家综合国力的重要部分。信息安全关乎社会稳定和国家安全，成为人们普遍关注的一个热点问题。同时随着互联网多媒体技术的迅速发展，图像成为信息的主要载体之一。据统计，人们通过视觉从外界获得的信息量高达 80%。图像信息的安全问题成为人们关注的热
高斯判别分析（GDA）Python代码
戴璞微的学习之路
08-08 3701
概要 本篇博客主要是高斯判别分析（GDA）的Python代码。对于GDA的理论讲解请移步我的另一篇博客：斯坦福机器学习笔记（三）—— 高斯判别分析。 GDA Python代码 #!/usr/bin/env python # -*- coding: utf-8 -*- # @Time : 2018/8/812:56 # @Author : DaiPuWei # E-Mail...
高斯判别分析(GDA)——含python代码
机器学习笔记
03-21 6238
基本数学知识 多元正态分布   多元正态分布是正态分布在多维变量下的扩展，它的参数是一个均值向量(mean(mean(mean vector)μvector)μvector)\mu和协方差矩阵(covariance(covariance(covariance matrix)Σ∈Rn∗nmatrix)Σ∈Rn∗nmatrix)\Sigma\in R^{n*n}，其中n是多维变量的向量长度，Σ...
关于逻辑回归（Logistic regression）模型的简单思考
wgdzz的博客
09-15 4367
关于逻辑回归（Logistic regression）模型的简单思考Tags： 机器学习算法　　Logistic regression(LR)模型是一种分类算法，它将特征空间映射成一种可能性，本文将从以下几方面解释逻辑回归模型： 逻辑回归模型的定义 逻辑回归模型的概率论解释 逻辑回归的引申：条件随机场 求解实现（Python） 1.逻辑回归模型的定义　　模型输入为x⃗ \
高斯判别分析模型：理解与应用
"本文介绍了高斯判别分析（GDA）模型，这是一种用于连续特征的分类问题的机器学习方法。GDA模型假设特征遵循多变量正态分布，并使用伯努利分布来处理分类变量。文章还探讨了判别学习与生成学习的区别，以及如何使用...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值