机器学习数学原理专题——广义线性模型数学公式总览

目录

一、文章链接

        1.回归模型

        2.分类模型

二、广义线性模型数学公式归纳表格


一、文章链接

        1.回归模型

                回归损失函数推导:https://blog.csdn.net/qq_58718853/article/details/137536043

                回归损失函数求导:https://blog.csdn.net/qq_58718853/article/details/137535658

        2.分类模型

                分类模型链接函数推导:https://blog.csdn.net/qq_58718853/article/details/136280920

                

二、广义线性模型数学公式归纳表格


回归

二分类

多分类
模型

y=g^{-1}(W^{T}X)

y=g^{-1}(W^{T}X)

y=g^{-1}(W^{T}X)

链接函数g^{-1}(\eta )=\eta

g^{-1}(\eta )=\frac{1}{1+e^{-\eta }}

           eq?%3Dsigmoid%28%5Ceta%20%29

g^{-1}(\eta )=\frac{e^{\eta _{i}}}{\sum e^{\eta _{i}}}

           eq?%3Dsoftmax%28%5Ceta%20%29

分布

高斯 —> 均匀

伯努利—>二分类多项式—>多分类
似然函数

eq?%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%20%5Csigma%20%5E%7B2%7D%7D%7Dexp%5B-%5Cfrac%7B1%7D%7B2%5Csigma%20%5E%7B2%7D%7D%28y-u%29%5E%7B2%7D%5D

其中,

eq?u%3DW%5E%7BT%7DX

eq?p%5E%7By%7D%5Ccdot%20%281-p%29%5E%7B1-y%7D

其中, 

eq?p%3D%5Cfrac%7B1%7D%7B1+e%5E%7B-W%5E%7BT%7DX%7D%7D

eq?%3Dsigmoid%28W%5E%7BT%7DX%29

eq?p_%7B1%7D%5E%7By_%7B1%7D%7D%5Ccdot%20p_%7B2%7D%5E%7By_%7B2%7D%7D%5Ccdot%20...%5Ccdot%20p_%7Bn%7D%5E%7By_%7Bn%7D%7D

其中,

eq?p_%7Bi%7D%3D%5Cfrac%7Be%5E%7BW%5E%7BT%7DX_%7Bi%7D%7D%7D%7B%5Csum%20e%5E%7BW%5E%7BT%7DX_%7Bi%7D%7D%7D

eq?%3Dsoftmax%28W%5E%7BT%7DX%29

损失函数eq?%5Cfrac%7B1%7D%7BN%7D%28Y-%5Chat%7BY%7D%29%5ET%28Y-%5Chat%7BY%7D%29

eq?-%5Csum_%7Bi%3D1%7D%5E%7BN%7D%5By_%7Bi%7D%5Clog%5Chat%7By_%7Bi%7D%7D

eq?+%281-y_%7Bi%7D%29%5Clog%20%281-%5Chat%7By_%7Bi%7D%7D%29%5D

eq?-%5Cfrac%7B1%7D%7BN%7D%5Csum_%7Bi%3D1%7D%5E%7BN%7D%5B%5Clog%20%5Chat%7By%7D_%7By%5E%7B%28i%29%7D%7D%5E%7B%28i%29%7D%7B%7D%5D
损失函数求导

eq?%5Cfrac%7B%5Cpartial%20l%7D%7B%5Cpartial%20w%7D%3D%5Cfrac%7B1%7D%7BN%7DX%28X%5ETW-Y%29

eq?%5Cfrac%7B%5Cpartial%20l%7D%7B%5Cpartial%20w%7D%3Dsigmoid%28o_%7Bj%7D%29-y_%7Bj%7D

其中,eq?o_%7Bj%7D%3DXW

eq?%5Cfrac%7B%5Cpartial%20l%7D%7B%5Cpartial%20w%7D%3Dsoftmax%28o_%7Bj%7D%29-y_%7Bj%7D

其中,eq?o_%7Bj%7D%3DXW

  • 26
    点赞
  • 25
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值