![](https://img-blog.csdnimg.cn/20201014180756916.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 73
Flame卡夫卡
这个作者很懒,什么都没留下…
展开
-
GBDT、XGBoost、LightGBM算法公式推导
一、GBDT公式推导1、第一个基函数:(1.1)F0(X)=12log1+y‾1−y‾F_0(X)=\frac{1}{2}log\frac{1+\overline{y}}{1-\overline{y}} \tag{1.1}F0(X)=21log1−y1+y(1.1)对于损失函数L(y,F)=log(1+e−2yF),y∈{−1,1}L(y, F)=log(1+e^{-2yF}), ...原创 2018-09-30 20:42:10 · 4917 阅读 · 0 评论 -
LightGBM源码阅读
Lightgbm中二分类问题的损失函数为“binary_logloss”,具体形式为:L(y,F)=ln(1+e−yF),y∈{−1,1}L(y, F)=ln(1+e^{-yF}), y\in \left\{-1, 1\right\}L(y,F)=ln(1+e−yF),y∈{−1,1}一阶和二阶导数如下,{L′=−y1+eyFL′′=eyF(1+eyF)2\left\{\begin{arr...原创 2018-10-12 16:37:16 · 2273 阅读 · 0 评论