二项分布的对数似然函数与交叉熵(cross entropy)损失函数的联系

机器学习 专栏收录该内容
8 篇文章 0 订阅

       今天复习Logistic回归的时候涉及到二项分布的求最大似然解,突然发现这个对数似然函数熟悉,似曾相识,不就是交叉熵损失函数么,难道这仅仅是巧合,不能够。先看下这个推导。

1. 二项分布(0-1分布):

2. 最大似然估计法:

 

3. 求解最大似然估计量:

这里我们主要看下标记处的对数似然函数,是不是很熟悉?

交叉熵代价函数(cross-entropy cost function)

后边上网找了下,发现了这片博文:https://blog.csdn.net/lanchunhui/article/details/75433608。算是一个解释吧。接下来要学习下latex了,这样排版太丑了。

 

参考:

概率论与数理统计 浙大版

 

  • 0
    点赞
  • 0
    评论
  • 5
    收藏
  • 一键三连
    一键三连
  • 扫一扫,分享海报

©️2020 CSDN 皮肤主题: 大白 设计师:CSDN官方博客 返回首页
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值