机器学习中No Free Launch说法的理解

这个说法的表面意思是不管什么机器学习的算法，在一些评判标准上来看，并没有谁更好的区别。也就是不管多么复杂的神经网络，和最简单的knn方法其实是一样的。

这句话给深度学习很唱了一下衰调，但真的是这样的吗？

这几句话更准确的表述应该是：没有一种万能的算法，能够在所有空间中都有很好的表现。

比如对于线性的分类问题，你用该维度的模型就不合适，反之依然。每种算法不管适应面再广：深度神经网络就是一种光谱的模型。但它也之实用于一部分问题。如果我们硬是要把每种算法放到所有的问题上来，得到它们在所有问题上的平均表现。因为每种问题只能应对一小部分，所以平均下来，所有算法都是一样的差。和简单的把所有类别都归为一类的分类算法没有区别。

但是即使是人的大脑，我们也不是所有的问题适合去解决的，比如人脑是不能凭空计算大数的乘法。

所以这个问题可以有两个结论：

1. 只要我们设计的算法能够处理大多人类平时遇到的问题，那就算作一个好的AI。
2. 在设计算法的时候，一定要把问题的空间的特点考虑清楚。