梯度下降
Wind_know
这个作者很懒,什么都没留下…
展开
-
梯度下降与梯度上升
目录梯度导包方程画图对f求导求解导数令导数=0求解最小值梯度下降求解最小值用lambda表示求导后的方程设置学习率梯度下降找最优值梯度上升找最大值函数二,有最大值更新规则将每一步怎么走的过程画出来 ,加入result[]画图梯度梯度的本意是一个向量(矢量),表示某一函数在该点处的方向导数沿着该方向取得最大值,即函数在该点处沿着该方向(此梯度的方向)变化最快,变化率最大(为该梯度的模)。导包import numpy as np.原创 2020-06-21 22:12:09 · 420 阅读 · 0 评论 -
梯度提升树
目录导包梯度提升树也是建在决策树的基础上的。树分10份,每份中是3棵树,每棵树都是多分类问题梯度提升树原理导包导入数据声明树使用回归研究其原理第二棵决策树以下数据为残差第二颗树,根据梯度提升,减小残差(残差越小,结果越好,越准确)导包概念:导数求导后还是自身import numpy as np# f(x) = 3*x**2# 梯度=导数from sklearn.ensemble import GradientBoostingClassi.原创 2020-06-20 22:08:11 · 1750 阅读 · 0 评论