![](https://img-blog.csdnimg.cn/20201014180756918.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
java-code
java开发
展开
-
线性回归算法梳理
有监督学习和无监督学习有监督学习(带标签):无监督学习(不带标签):泛化能力:过拟合和欠拟合优化方法线性回归及原理:损失函数:(通过求解损失函数的最小值,从而求得我们的参数向量)线性回归的评估指标sklearn库中关于线性回归模型的参数详解有监督学习(带标签):由于计算机在学习的过程中不仅有训练数据,而且有训练结果(标签),然后我们开始根据需要建立分类模型,使用训练数据来使得模型的表现最好,这...原创 2019-03-29 22:27:38 · 464 阅读 · 0 评论 -
随机森林算法梳理
随机森林算法梳理1. 集成学习概念2. 个体学习器概念3. boosting bagging4. 结合策略(平均法,投票法,学习法)5. 随机森林思想6. 随机森林的推广7. 优缺点8. sklearn参数9. 应用场景1. 集成学习概念顾名思义,集成学习(ensemble learning)指的是将多个学习器进行有效地结合,组建一个学习系统,其中每个学习器是这个系统的组成单元,每个学习器的学...原创 2019-04-04 21:16:52 · 765 阅读 · 0 评论 -
逻辑回归算法梳理
逻辑回归算法梳理逻辑回归与线性回归的联系与区别:逻辑回归是一种名为"回归"的线性分类器,其本质是由线性回归变化而来的,一种广泛使用于分类问题中的广义回归算法.要理解逻辑回归从何而来,得要先理解线性回归,线性回归是机器学习中最简单的回归算法,它作为一个几乎人人熟悉的方程: z=θ0+θ1x1+θ2x2+...+θnxnz=\theta _{0}+\theta _{1}x_{1}+\theta ...原创 2019-04-01 21:10:27 · 264 阅读 · 0 评论 -
XGBT算法梳理
XGBoost算法梳理算法原理XGBT中的预测值是所有弱分类器上的叶子权重直接求和得到yi^=∑jwjxij\widehat{y_{i}}=\sum _{j}w_{j}x_{ij}yi=∑jwjxijl(yi,yi^)=(yi−yi^)2l(y_{i},\widehat{y_{i}})=(y_{i}-\widehat{y_{i}})^{2}l(yi,yi)=(yi−yi...原创 2019-04-10 21:40:51 · 4357 阅读 · 0 评论 -
GBDT算法梳理
GBDT梯度提升树CART(分类回归树)这里为什么要第一个说分类回归树呢,因为GDBT实际上也是一种集成树的算法,而每棵子树其实都是分类回归树,这里的分类树和回归树其实在字面上就可以区分,分类树的叶子节点是我们样本的类别,或者可以说是标签,而回归树,是对样本数据的某个特征的回归,也可以说是拟合,比如给你一个人的工资,身高,爱好,等等特征,要你预测一下他的年龄,这个过程用到的就是回归树.在之...原创 2019-04-07 20:04:46 · 602 阅读 · 0 评论 -
决策树算法梳理
决策树算法梳理1. 信息论基础(熵,联合熵,条件熵 信息增益 基尼不纯度)2. 决策树的不同分类算法(ID3算法,C4.5,CART分类树)的原理及应用场景3. 回归树原理4. 决策树防止过拟合手段5. 评估模型6. sklearn参数详解,python绘制决策树1. 信息论基础(熵,联合熵,条件熵 信息增益 基尼不纯度)首先这里的熵EntropyEntropyEntropy是信息熵,不是...原创 2019-04-03 17:24:02 · 463 阅读 · 0 评论