机器学习 NFL定理

一、什么是NFL定理？

No Free Lunch Theoren ，没有免费的午餐定理，简称NFL定理；

在机器学习算法中体现为在没有实际背景下，没有任何一种算法比随机胡猜的效果更好；

学习算法必须要作出一个与问题领域有关的“假设”，分类器必须与问题域相适应，不存在一个与具体应用无关的，普遍适用的“最优分类器”；

NFL定理的前提是：所有问题出现的机会相等、或所有问题都是同等重要。但是现实中，我们往往会得到特定的数据，特定的分布，解决特定的问题，所以我们只需要解决关注的问题，而不需要考虑这个模型是否很好的解决其他的问题。只有对于特定的问题，我们比较不同模型的才有意义。