![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
MachineLearning
文章平均质量分 92
Turtlelin007
这个作者很懒,什么都没留下…
展开
-
SVM 公式推导
文章目录1.1. SVM1.1.1. 支持向量机的基本型1.1.2. 对偶问题1.1.3. 软间隔1.1.4. 核函数 1.1. SVM 1.1.1. 支持向量机的基本型 思想:找到一个划分两类训练样本的超平面,并使间隔最大化。 (1)超平面:表达式 wTx+b=0\boldsymbol{w}^{\mathrm{T}} \boldsymbol{x}+b=0wTx+b=0 (2)函数间隔 定义样本点...原创 2019-07-09 15:41:03 · 1900 阅读 · 0 评论 -
Logistic 回归 损失函数推导及参数更新
Logistic 回归 损失函数推导及参数更新 Logistic 回归属于广义的线性模型,联系函数为sigmoid函数 广义的线性模型为y=g(wTx+b)y = g(\boldsymbol{w^Tx} + b)y=g(wTx+b),函数g(.)g(.)g(.)起到了将线性回归模型预测值和真实标记联系起来的作用,称为“联系函数”(link function)。使得g−1(y)g^{-1}(y)g...原创 2019-07-12 15:24:02 · 2423 阅读 · 0 评论 -
XGBoost推导
文章目录XGBoost推导**目标****Additive Training(Boosting)****如何决定新加入的函数****将目标函数泰勒展开****定义树的复杂度****目标函数求解****树的生成****XGBoost算法步骤** XGBoost推导 目标 目标:我们希望学习一个既准确又简单的模型来实现预测 因此目标函数可以定为: ∑i=1nl(yi,y^i)+∑kΩ(fk),fk∈F...原创 2019-07-23 19:18:58 · 238 阅读 · 0 评论