![](https://img-blog.csdnimg.cn/20201014180756724.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
台大-机器学习基石
文章平均质量分 80
zzzwwwmmm
计算机
展开
-
6-VC Bound(P[BAD]的真正上限)
Break Point 对成长函数的限制回顾上一节提到的4个成长函数:假设对于一个问题,minimum break point k = 2(对于任意2个输入,H不能穷尽所有划分),基于该条件我们做出推论:即当 N=2 时,成长函数一定 当 N=3 时,我们看看成长函数的 maximum possible value 等于多少?任意3个输入(x转载 2015-11-04 15:27:33 · 979 阅读 · 0 评论 -
5-训练与测试(重新理解机器学习的可靠性)
回顾与预览基于统计的学习流程:--- 如果备选函数集的大小|H|=M,M有限,训练数据量N足够大,则对于学习算法A选择的任意备选函数h,都有 E-out(h)≈E-in(h)--- 如果A找到了一个备选函数,使得E-in(h)≈0,则有很大概率E-out(h)≈0 ---》学习是可能的可以讲,机器学习有两个核心问题:1. 我转载 2015-11-03 15:56:57 · 795 阅读 · 0 评论 -
4-机器学习的可行性分析
一、 第一条准则: 没有免费的午餐!(no free lunch !)给一堆数据D, 如果任何未知的f (即建立在数据D上的规则)都是有可能的,那么从这里做出有意义的推理是不可能的!!如下面这个问题无解(或者勉强说没有唯一解):训练数据D包含了6张3*3的黑白图片,并给出了对应的输出,根据这些信息确定一个近似目标函数g,并用g计算最下方图片的输出。甲认真看了转载 2015-11-02 16:44:30 · 1380 阅读 · 0 评论 -
3-机器学习的分类
一、根据输出空间分类1, 分类(classification)1.1 二值分类 (binary classification):输出为 {+1, -1}。那个银行发信用卡的案例中,对于任意用户,输出只可能有两个结果{η}={+1,-1},+1就发卡,-1就不发。这是一个简单的【二元分类问题】。同样的问题有很多,例如贷款(贷还是不贷)、签证(签还是不签)、答案(对还是不对)、邮件转载 2015-11-02 11:41:14 · 797 阅读 · 0 评论 -
2-学习回答是非问题
课程来自Coursera上的国立台湾大学《机器学习基石》(Machine Learning Foundations),由林轩田老师讲授。如何设定目标函数集首先回顾下机器学习的一般性定义:集合{χ}是所有可能的输入,集合{η}是所有可能的输出,函数f是{χ}到{η}的一个映射,这个函数利用输入得到正确的输出。问题是我们不知道f的形式,我们手头有的只是一些经验数转载 2015-10-31 17:32:57 · 806 阅读 · 0 评论 -
1 - 什么是机器学习?怎么用?
从人类学习到机器学习 - 机器学习模型人类通过【观察】积累知识,如果运用所掌握的知识完成一个目标,就是【技能】,一个小白从观察开始到获取技能的过程,就是【学习(Learning)】:同理,机器通过【数据】输入积累知识,如果运用其学到的知识完成指定的目标,并且在一定的标准下完成的更好(例如精确度更高、速度更快等),就是【技能】,一个初始程序从大量数据中获得技能的过程就是【机器转载 2015-10-30 16:59:12 · 717 阅读 · 0 评论 -
7 - VC维度(VC Dimension)-- 衡量模型与样本的复杂度
VC Dimension的定义我们知道dichotomies数量的上限是成长函数,成长函数的上限是边界函数:边界函数的上限就是N^(k-1)了:于是我们得到了上限(成长函数)的上限(边界函数)的上限。。。所以VC Bound可以改写成:复习结束,下面我们定义VC Dimension:用中文讲,对于某个备选函数集转载 2015-11-04 19:15:16 · 2442 阅读 · 0 评论 -
8 - 机器学习中的噪音与错误(Noise and Error)
噪音与概率目标函数(Noise and Probalistic Target)实际应用中的数据基本都是有干扰的:还是用信用卡发放问题举例子:标记错误:应该发卡的客户标记成不发卡,或者两个数据相同的客户一个发卡一个不发卡;输入错误:用户的数据本身就有错误,例如年收入少写一个0、性别写反了什么的。-------------------------转载 2015-11-10 10:25:37 · 1738 阅读 · 0 评论