![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
梯度下降
Wind_know
这个作者很懒,什么都没留下…
展开
-
梯度下降与梯度上升
目录 梯度 导包 方程 画图 对f求导 求解导数令导数=0求解最小值 梯度下降求解最小值 用lambda表示求导后的方程 设置学习率 梯度下降找最优值 梯度上升找最大值 函数二,有最大值 更新规则 将每一步怎么走的过程画出来 ,加入result[] 画图 梯度 梯度的本意是一个向量(矢量),表示某一函数在该点处的方向导数沿着该方向取得最大值,即函数在该点处沿着该方向(此梯度的方向)变化最快,变化率最大(为该梯度的模)。 导包 import numpy as np.原创 2020-06-21 22:12:09 · 257 阅读 · 0 评论 -
梯度提升树
目录 导包 梯度提升树也是建在决策树的基础上的。 树分10份,每份中是3棵树,每棵树都是多分类问题 梯度提升树原理 导包 导入数据 声明树 使用回归研究其原理 第二棵决策树 以下数据为残差 第二颗树,根据梯度提升,减小残差(残差越小,结果越好,越准确) 导包 概念:导数求导后还是自身 import numpy as np # f(x) = 3*x**2 # 梯度=导数 from sklearn.ensemble import GradientBoostingClassi.原创 2020-06-20 22:08:11 · 1440 阅读 · 0 评论