吴恩达机器学习笔记——指数分布族&广义线性模型&逻辑回归概率模型推导

此文章解释指数分布族,广义重点内容线性模型,以及逻辑回归的概率解释推导。

1.指数分布族

指数分布族即为指数形式的概率分布:

这里写图片描述

其中,T(y)为充分统计量,tau为自然参数。

大多数的概率分布都可以转化为指数分布模型,下文会有例子。

2.广义线性模型

广义线性模型通过指数分布族来引出。

广义线性模型有三个假设:

(1) y|x;θ ExponentialFamily(η);给定样本x与参数θ,样本分类y 服从指数分布族中的某个分布; (2) 给定一个 x,我们需要的目标函数为hθ(x)=E[T(y)|x];
(3)η=θTx。

3.逻辑回归概率模型推导

逻辑回归用于对事情进行二分类,则可以用伯努利分布(0,1)分布来进行建模。

公式推导如下图所示:

这里写图片描述

  • 2
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值