![](https://img-blog.csdnimg.cn/20201014180756913.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习要点回顾
学习总结为主,巩固基础知识
anuory
forever young
展开
-
机器学习要点理解(四、随机森林)
一、随机森林的基本思想Bagging思想,bootstrap aggregating,思想就是从总体样本当中随机取一部分样本进行训练,通过多次这样的结果,进行投票获取平均值作为结果输出,这就极大可能的避免了不好的样本数据,从而提高准确度。随机森林采用Bagging思想,重复采样,生成多棵树。二、随机森林生成规则1、数据集为N,随机从数据集里采样N个(与数据集大小相同)训练样本,作为一棵树训...原创 2020-03-11 11:56:57 · 1416 阅读 · 0 评论 -
机器学习要点理解(三、决策树)
决策树的基本思想:对每一个特征做if-else的条件判断,与逻辑回归不一样(逻辑回归是把所有特征丢进网络),入门的案例有泰坦尼克号存活预测。决策树的两个问题:决策树是怎么”长“的?—分裂属性的选择,即在某个结点上选择哪个特征进行划分呢,不同的算法造就不同的树,例如ID3, C4.5, CART树。这棵树什么时候”停“?—树剪枝。当子节点包含的样本数域同一个类型时;当前结点包含的样...原创 2020-03-10 15:25:16 · 231 阅读 · 0 评论 -
机器学习要点理解(二、逻辑回归)
逻辑回归是做分类任务的,是在线性回归的基础上加上例如sigmoid函数,是的取值从[-∞, +∞]变为[0,1]。并按照区间进行分类。sigmoid函数S(t)=11+e−tS(t)=\frac{1}{1+e^{-t}}S(t)=1+e−t1逻辑回归的函数:对数似然函数,同样是按照梯度下降法,最小化损失函数得到模型参数。S(t)=−y∗log(p)−(1−y)∗log(1...原创 2020-03-09 15:22:57 · 179 阅读 · 0 评论 -
机器学习要点理解(一、线性回归)
线性回归的定义:线性而不是非线性,线性在表示元素关系在图像上表示为一条直线,非线性则不是直线;回归,多次的测量值通过方式计算,实现对真实值的逼近。 线性回归的方法: 通过任务构造相应的损失函数; 利用梯度下降法最小化损失函数,找到相模型相应的参数。 正则化项:解决模型的过拟合和欠拟合,一般有L1,L2正则化,L1,L2正则化项是施加在参数上,对模型的参数更新进行限制,L1正则化是对参...原创 2020-03-09 14:30:03 · 148 阅读 · 0 评论