机器学习
文章平均质量分 97
千村雪
这个作者很懒,什么都没留下…
展开
-
机器学习实战之朴素贝叶斯
本文为自己学习机器学习所记笔记,主要参考《统计学习方法》和《机器学习实战》两本书。朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设 的分类方法。1.统计学基础条件独立公式,如果X与Y相互独立, P(X,Y)=P(X)P(Y)条件概率公式: ...原创 2018-06-14 21:41:19 · 203 阅读 · 0 评论 -
机器学习实战之Logistic回归
逻辑回归实际上是分类算法,称之为回归是因为要选择最佳参数拟合出分类边界。1.sigmoid函数当输入z=0时,输出为1;随着x值增大,函数值逼近1;随着z减小,函数值逼近零。当从较长的尺度来看,sigmoid函数很像一个节约函数。利用sigmoid函数作为分类器,我们可以将每个特征乘上一个回归系数,然后求和作为输入z,输出大于0.5的归为1类,输出不大于0.5的归为0类。即令 ...原创 2018-08-07 20:55:22 · 251 阅读 · 0 评论 -
机器学习实战之SVM
SVM比较难,涉及到很多复杂的算法和公式推导,暂时没有完全吃透,本文仅作为自己初学笔记,可能会有疏漏和错误。1.线性可分支持向量机给定一堆线性可分的数据点X,它们属于两类(y=1或-1),SVM学习的目标是找到一个超平面,将特征空间划分为两部分,一部分为正类,一部分为负类。超平面方程表示为 ...原创 2018-08-30 00:02:25 · 1701 阅读 · 0 评论 -
机器学习实战之线性回归
对于对给定数据集X和对应目标值y,线性回归目的是要找到回归系数w,使用线性方程来拟合这些数据点。1.标准线性回归:通常求取回归系数的做法是,求得使平方误差最下的w平方误差: 解出回归系数: ...原创 2018-09-08 00:29:14 · 389 阅读 · 0 评论 -
机器学习实战之adaboost
AdaBoost,是英文"Adaptive Boosting"(自适应增强)的缩写。它的自适应在于:前一个基本分类器分错的样本会得到加强,加权后的全体样本再次被用来训练下一个基本分类器。同时,在每一轮中加入一个新的弱分类器,直到达到某个预定的足够小的错误率或达到预先指定的最大迭代次数。1.算法流程:给定一个数据集,类标签,adaboost的目的是学习得到一系列弱分类器(基本分类器),然后组...原创 2018-09-02 16:25:29 · 568 阅读 · 0 评论