![](https://img-blog.csdnimg.cn/20201014180756919.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
林轩田机器学习笔记
文章平均质量分 78
追_光
这个作者很懒,什么都没留下…
展开
-
林轩田机器学习基石笔记6 - Theory of Generalization
Restriction of Break Point四个成长函数与break point:假设一个hypotheses,它的break point是2.那么当N=1的时候可以取到两个dichotomies。当N≥2的时候就不能取到所有的dichotomies。当N=2的时候就取不到2^2=4个dichotomies,最多只能取到3个。当N=3时,经过下列实验可知最多可以产生4个dichotomies。(因为breakpoint=2,所以对于N=3的时候,从3个点里面任取2个点都不能满足4个dichot原创 2021-03-08 12:40:37 · 227 阅读 · 0 评论 -
林轩田机器学习基石笔记5 - Training versus Testing
Recap and Preview机器学习流程图第一节课,介绍机器学习是要找到最好的g,使g≈f(目标函数),保证Eout(g)≈0。第二节课,找方法使Ein≈0,如PLA和pocket。第四节课,将Ein(g)和Eout(g)联系起来,Ein(g)≈Eout(g)。将机器学习分成两个主要问题:1.Ein(g)和Eout(g)是否足够接近2.怎么让Ein(g)越小M:hypothesis set的数量当M很小的时候,坏事情发生很少,即Ein(g)和Eout(g)是足够接近(问题1)。演算法原创 2021-03-01 22:14:04 · 202 阅读 · 0 评论 -
林轩田机器学习基石笔记4 - Feasibility of Learning
Learning is Impossible?根据3个yn为+1和3个yn为-1的九宫格,判断右侧九宫格的yn。如果按照左上角是否为黑色,则yn为-1,如果按照是否有对称性则yn为+1。根据不同的特征分类,得到的yn值不一样。再一个数学的例子,给出5个数据。判断g是什么假定有8个hypothesis,对5个资料上都是正确的,但是对其他的3个资料,不一定正确。我们希望的是对新的数据的预测是否正确而不是对旧的数据。机器学习的这种特性被称为没有免费午餐(No Free Lunch)定理。即机器学习无原创 2021-02-18 17:02:16 · 127 阅读 · 1 评论 -
林轩田机器学习基石笔记3 - Types of Learning
Learn with Different Output Space Y二元分类(binary classification),只有两种可能性,一般用y={-1,+1}表示。是否发放信用卡就是典型的二元分类问题。常见的二元分类问题:多元分类问题y={1,2,…,K}回归问题输出为y=R或者y=[lower,upper]∈R。(实数)应用在:结构化学习输出空间有某一种特殊的结构在里面。y=structures应用在:机器学习按照输出空间划分,包括二元分类、多元分类、回归、结构化学习原创 2021-02-18 11:46:43 · 249 阅读 · 0 评论 -
林轩田机器学习基石笔记2 - Learning to Answer Yes/No
Perceptron Hypothesis Set感知器,一个具体的例子:评定要不要给用户信用卡,给(y=+1),不给(y = -1)xi:维度wi:权重threshold:阈值简化符号,将threshold当做w0,同时引入x0=-1Perceptrons in R2,在二维图上表示h(x),sign(w0+w1x1+w1x2)=0为平面上的一条直线,直线两次分别为y=+1和y=-1。在二维空间中,perceptrons是一条直线,称为线性分类器,在更高维空间中为平面或者更高为平面。原创 2021-02-16 10:57:43 · 122 阅读 · 0 评论 -
林轩田机器学习基石笔记1 - The Learning Problem
What is Machine Learning机器学习定义:机器学习的三个关键:存在可以学的潜在规则不能简单的定义有资料Applications of Machine Learning衣食住行、教育、娱乐等Components of Machine Learning举例:Metaphor Using Credit Approval基本概念:x:输入(申请人基本信息)y:输出(要不要发卡)f:目标函数(x→y的公式)data:资料hypothesis:假说,最佳的原创 2021-02-15 19:22:06 · 142 阅读 · 0 评论