![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 50
愤斗的小鸡
这个作者很懒,什么都没留下…
展开
-
【复习笔记】设计一个学习系统
机器学习计算机能够根据经验来自我学习,提高某任务处理性能的行为。关于学习的定义定义:对于某类任务T和性能度量P,如果一个计算机程序在T上以P衡量的性能随着经验E而自我完善,那么我们称这个计算机程序在从经验E中学习。 通常为了很好的定义一个学习问题,我们必须明确这样三个特性:任务的种类,衡量任务提高的标准,经验的来源。 例如:西洋跳棋学习问题任务T:下西洋跳棋性能标准P:比赛中击败对手的百分比原创 2016-01-02 17:32:01 · 1261 阅读 · 0 评论 -
【复习笔记】概念学习和一般到特殊序
概念学习:是指从有关某个布尔函数的输入输出训练样例中推断出该布尔函数。归纳学习假设:任一假设如果在足够大的训练样例集中很好的逼近目标函数,它也能在未见实例中很好的逼近目标函数。一致:一个假设h与训练样例集合D一致,当且仅当对D中每一个样例< x, c(x) >都有h(x)=c(x)。 一个样例x在h(x)=1时称为满足假设h,无论x是目标概念的正例还是反例。 当一假设能正确划分一个正例时,称该假原创 2016-01-06 15:59:12 · 588 阅读 · 0 评论 -
【复习笔记】决策树学习
决策树适用问题的特征:1、实例由“属性-值”对(pair)表示 2、目标函数具有离散的输出值 3、可能需要析取的描述 4、训练数据可以包含错误 5、训练数据可以包含缺少属性值的实例ID3算法特点:1、搜索完整的假设空间(也就是说,决策树空间能够表示定义在离散实例上的任何离散值函数) 2、从根向下推断决策树,为每个要加入树的新决策分支贪婪地选择最佳的属性。 3、归纳偏置,优先选择较小的树观原创 2016-01-06 18:51:57 · 631 阅读 · 0 评论 -
【复习笔记】人工神经网络
解决反向传播算法中的过度拟合问题的方法:权值衰减 它在每次迭代过程中以某个小因子降低每个权值,这等效于修改E的定义,加入一个与网络权值的总量相应的惩罚项,此方法的动机是保持权值较小,从而使学习过程向着复杂决策面的反方向偏置。验证数据 一个最成功的方法是在训练数据外再为算法提供一套验证数据,应该使用在验证集合上产生最小误差的迭代次数,不是总能明显地确定验证集合何时达到最小误差。k-fold交叉方法原创 2016-01-29 15:12:25 · 710 阅读 · 0 评论 -
【复习笔记】评估假设
样本真实度置信区间:对有限数据样本集的采样方法:k-fold方法随机抽取至少有30个样例的测试集合,剩余样例组成训练集合,重复这一过程直到足够的次数1、随机方法的好处是能够重复无数次,以减少置信区间到需要的宽度。 k-fold方法受限于样例的总数。2、随机方法的缺点是,测试集合不再被看作是从基准实例分布中独立抽取。 k-fold交叉验证生成的测试集合是独立的,因为一个实例只在测试集合中出现原创 2016-01-29 15:24:00 · 322 阅读 · 0 评论 -
【复习笔记】贝叶斯学习
贝叶斯学习方法的特性:观察到的每个训练样例可以增量地降低或升高某假设的估计概率先验知识可以与观察数据一起决定假设的最终概率每个候选假设的先验概率每个可能假设在可观察数据上的概率分布贝叶斯方法可允许假设做出不确定性的预测新的实例分类可由多个假设一起做出预测,用它们的概率来加权一致学习器定义:如果某个学习器输出的假设在训练样例上为0错误率 一致学习器输出一个MAP假设的条件: 1、H上原创 2016-01-29 15:42:34 · 646 阅读 · 0 评论