- 博客(4)
- 收藏
- 关注
原创 常见机器学习模型概述
逻辑回归(logist regression)和线性回归(linear regression) 当y为离散值时为逻辑回归,当y为连续值时为线性回归,LR的公式推导如下:LR模型推导_麓湘小镇的博客-CSDN博客 FM模型(Factor Machine,因子分解机) 由上式可以看出,FM是在LR的基础上增加了二阶交叉项,从而增加了模型的非线性。 但是对特征间做两两交叉会存在计算量大和稀疏性问题,FM通过对每个特征引入辅助隐向量来解决以上问题 隐向量的稠密性解决了特征交叉的稀疏性问题,通过数学推导
2022-04-23 16:02:54
1577
原创 LR模型推导
概念 逻辑回归假设数据服从伯努利分布,通过极大化似然函数方法,运用梯度下降来求解参数,来达到将数据二分目的 sigmoid函数 sigmoid函数:,y为正样本的概率,1-y为负样本的概率 LR模型推导 设 另 那么对应 极大似然估计 似然函数 对数似然函数就是 将代入公式 对参数求偏导 参数更新 ...
2022-04-23 15:13:11
1205
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人