没有免费的午餐定理&丑小鸭定理

转载自:http://blog.csdn.net/mnshenyanping/article/details/51280731

没有免费的午餐定理(noerfelunhchtocerm,简称NFL)。该定理由wolpert和Macerday提出,结论是由于对所有可能函数的相互补偿,最优化算法的性能是等价的。该定理暗指,没有其它任何算法能够比搜索空间的线性列举或者纯随机搜索算法更优。该定理只是定义在有限的搜索空间,对无限搜索空间结论是否成立尚不清楚。

丑小鸭定理(Ugly Duckling) 上个世纪60年代,模式识别研究的鼻祖之一,美籍日本学者渡边慧证明了“丑小鸭定理”。这个定理说的是“丑小鸭与白天鹅之间的区别和两只白天鹅之间的区别一样大”。这个看起来完全违背常识的定理实际上说的是:世界上不存在分类的客观标准,一切分类的标准都是主观的。渡边慧举了一个鲸鱼的例子说明这个定理:按照生物学的分类方法,鲸鱼属于哺乳类的偶蹄目,和牛是一类;但是在产业界,捕鲸与捕鱼都要行船出海,鲸和鱼同属于水产业,而不属于包括牛的畜牧业。分类结果取决于选择什么特征作为分类标准,而特征的选择又依存于人的目的。丑小鸭是白天鹅的幼雏,在画家的眼里,丑小鸭和白天鹅的区别大于两只白天鹅的区别;但是在遗传学家的眼里,丑小鸭与其父亲或母亲的差别小于父母之间的差别。 由此引出的一个问题是,事物有没有“本质”?一个苹果,牛顿看到的是它的质量,遗传学家看到的是它的染色体中的DNA序列,美食家关心的是它的味道,画家看到的是它的颜色和形状,孔融还可能关注其大小并从中看出道德因素。这里面没有谁对谁错的问题,所以不可能知道苹果的“本质”是什么。在说到“本质”的时候,充其量说的只是“我认为最重要的特征”,只代表个人的立场,他人并没有赞同的充分理由。所以任何使用“本质”这个词汇所进行的论证都是靠不住的。如果一个哲学家说:“思维是人的本质,计算机不具备这种本质,所以机器不能思维。”这种论证只相当于说:“我认为计算机不能思维,所以计算机不能思维。”这当然不能成为有效的论证。问题就在于世界上还不存在能够判断什么是事物的本质的公认的有效方法。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
没有免费午餐定理(No Free Lunch Theorem)是指,在所有可能的问题实例上,各种优化算法的性能是平均的,没有任何一种算法能够在所有问题上表现最好。这个定理告诉我们,在机器学习中,没有一种算法能够解决所有问题,并且不同的问题需要使用不同的算法和技术。 举个例子来说,假设我们要用机器学习来解决一个分类问题,其中有两个类别,一类是红色的圆形,另一类是蓝色的方形。我们可以使用逻辑回归算法、支持向量机算法、决策树算法等多种算法来解决这个问题。但是如果我们要解决一个完全不同的问题,比如图像识别或语音识别,我们可能需要使用卷积神经网络、循环神经网络等不同的算法和技术。这就是没有免费午餐定理的体现,不同的问题需要使用不同的算法和技术,没有一种算法能够解决所有问题。 另一个例子是,对于一个特定的问题和数据集,我们可以使用不同的机器学习算法来训练模型,比如逻辑回归、决策树、随机森林等。但是不同的算法在不同的数据集和问题上表现不同,有时候我们需要进行实验和比较,才能找到最优的算法和模型。这也说明了没有免费午餐定理的真实性,没有一种算法能够解决所有问题,并且在不同的问题和数据集上,算法的表现也是不同的。 总之,没有免费午餐定理告诉我们,在机器学习中,没有一种算法能够解决所有问题,并且不同的问题需要使用不同的算法和技术。我们需要根据问题和数据的特点来选择合适的算法和模型,进行实验和比较,才能找到最优的解决方案。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值