机器学习
化石草
这个作者很懒,什么都没留下…
展开
-
回归算法笔记
线性回归引言基本含义:目标函数损失函数loss最小二乘法:梯度下降法:线性回归的过拟合岭回归 和 LASSO回归线性回归总结引言基本含义:线性回归是一种有监督算法。在统计学中,线性回归(Linear Regression)是利用称为线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。这种函数是一个或多个称为回归系数的模型参数的线性组合。通俗点,线性回归的学...原创 2020-05-05 20:39:08 · 1032 阅读 · 0 评论 -
Logistic回归及其python代码实现
导录:引言引入sigmoid函数二元逻辑回归的损失函数梯度下降法求损失函数极小值python实现logistics回归逻辑回归的正则化逻辑回归的优点和缺点小结参考引言逻辑回归从名字上看起来是回归问题, 但其是机器学习中的一种分类模型。之所以叫Logistic回归, 是因为它的算法和线性回归基本上是完全一致的,不同之处在于Logistic回归在线性回归的最后一步的基础上引入了激活函数—sig...原创 2020-01-05 11:19:05 · 5330 阅读 · 0 评论 -
梯度下降法(Gradient Descent)及BGD,SGD和MBGD
梯度下降法(Gradient Descent)及BGD,SGD和MBGD引言梯度梯度下降法调优策略BGD,SGD和MBGD小结梯度下降法算法过程:引言梯度: 参考同济大学数学系编写的《高等数学》梯度下降: 参考李航老师的《统计学习方法》梯度下降法(Gradient Descent, GD), 也称最快速下降法(Steepest Descent)常用于求解无约束最优化问题的一种最常用...原创 2019-07-04 15:37:05 · 1067 阅读 · 0 评论