机器学习 读书
ANONYMOUSLYCN
过气程序员
展开
-
<机器学习>(周志华)读书笔记 -- 第一章 绪论
1.1 引言因为人们在生活中通过"经验"可以对所看到,所听到的事物作出判断.机器学习试图研究如何通过计算的手段,利用经验来改善系统自身的性能.这里的"经验",通常是在数据中体现的,机器学习的主要研究内容就是通过这些数据,产生模型,即"学习算法". 有了学习算法,我们给学习算法数据的时候,学习算法可以基于这些数据生成模型.模型是对于对应情况的判断准则,例如:通过颜色,声音判断一个西瓜是否是一个原创 2017-02-06 21:07:30 · 808 阅读 · 0 评论 -
<机器学习>(周志华)读书笔记 -- 第二章 模型评估与选择
2.1 经验误差与过拟合通常,我们使用"错误率"来表示分类中错误的样本占总样本的比例.如果m个样本中有a个错误样本则错误率E=a/m,对应的,1-a/m称为精度,即"精度"=1-"错误率".更一般的情况来说,我们把机器学习的预测输出和样本真实输出之间的差异称为"训练误差"或者"经验误差".一般来说,如果在训练集中的表现精度高,而在测试集中表现的精度小,一般是过拟合.相反,如果是精度都原创 2017-02-13 15:55:27 · 3006 阅读 · 0 评论 -
<机器学习>(周志华)读书笔记 -- 第三章 线性模型
3.1 基本形式为啥叫做线性模型呢?因为这个很像是f(x)=ax+b的形式,在图形上看是一个直线,只是斜率和截距不一样而已。3.2 线性回归这个就有意思了,这里x是给的数值,f(x)是预测值,w,b是变量,那么变量的更新就是个大问题,其实神经网络在这里也是面临了这个问题,就是变量的更新。这里先是放置了一个w,b的更新的大致方向,就是使得预测和真实值接近嘛。然后化简一原创 2017-02-19 19:18:29 · 1399 阅读 · 0 评论 -
<机器学习>(周志华)读书笔记 -- 第四章 决策树
4.1 基本流程决策树是什么?要想解决这个问题,首先要弄明白的就是计算机中的树是什么。树,我们在计算机中很常见了,有二叉树,哈夫曼树等等,总结一下共同点的时候就是,对一个当前节点而言,下一个个节点有多个节点可以选择的结构。简单的说就是有分叉的结构就是树(可能这样说也不严谨)。而决策树就是利用了这种分叉来判断的树。如图就是一个决策树:一个决策树包含了一个根节点,若干个内部节点和若干个叶节原创 2017-03-28 19:58:07 · 1230 阅读 · 0 评论 -
<机器学习>(周志华)读书笔记 -- 第五章 神经网络
神经网络大概是当下最热门的技术之一了,很多没有学过计算机的同学们都知道深度神经网络之类的热词。但是神经忘光了实际上已经很早了,在1988年的时候,就已经提出了这个概念。而1943年,就已经有了M-P神经元模型。也就是说,科学技术的发展不是跃进式的,而是循序渐进的。5.1 神经元模型1943年,McMulloch and Pitts将神经元抽象为:然后对输出再经过一个激活函数,得原创 2017-03-30 14:22:24 · 1322 阅读 · 0 评论 -
<机器学习>(周志华)读书笔记 -- 第六章 支持向量机
支持向量机是当下比较经典的一个算法,其中台湾大学林智仁教授还开发了一个简单快速的svm库--libsvm这个svm的程序在目前各个机器学习包中都有广泛的嵌入式用。但是我们仍然需要对SVM的原理进一步了解。SVM是一个经典的二分类模型。6.1 间隔与支持向量对于两类数据来说,有很多种划分的选择可以把这两类数据基于某种维度进行划分,但是,这里出现了一个问题,不同的划分肯定带来的效果不同,那么哪...原创 2017-07-25 16:52:50 · 2697 阅读 · 0 评论