机器学习要注意的事情（五）

在上一篇文章中我们给大家介绍了机器学习需要注意的相关事项，这些内容都是我们在学习机器学习时必须注意的内容，今天我们会继续为大家介绍更多有关机器学习需要注意的内容，希望这篇文章能够更好地帮助大家理解机器学习。

我们需要注意的是，理论保证通常与实际情况不一样，这是因为机器学习的论文充满了理论保证。最常见的类型是为了确保良好的泛化所需要的示例数量。这就需要我们正确看待这些理论保证。首先，我们需要注意的是这些都是可能的。归纳法传统上与演绎法形成鲜明对比，在演绎法中我们可以保证结论是正确的，这其实是许多世纪以来的传统智慧。如果学习者返回了一个与特定训练集一致的假设，那么这个假设很可能泛化的很好。

如果有足够大的训练集，那么学习者可能会返回一个泛化很好的假设或者无法找到一个与训练集一致的假设。这个界限也没有说明如何选择一个好的假设空间。它只告诉我们，如果假设空间包含真正的分类器，那么学习者输出坏分类器的概率就会随着训练集的大小而减少。倘若我们缩小假设空间，约束就会得到改善，但它包含真正的分类器的可能性也会减小。但是另一种常见的理论保证是很相似的，具体就是有了无限的数据，学习者就可以输出正确的分类器。这是让人安心的，但由于它的渐近保证，在选择学习者的时候就会显得轻率。在实践中，我们很少处于这种不对称的状态。所以就出现了两种情况，那就是如果给了无限的数据之后，学习者A比B更好，那么在给了有限数据的情况下，通常学习者B比A要更好。

我们在这篇文章中给大家介绍了关于机器学习中需要注意的内容。在机器学习中，理论保证的主要作用不是作为实际决策的标准，而是作为算法设计的理解和驱动力的来源。在这种能力下，它们非常有用。事实上，理论与实践的互动是机器学习取得长足进步的主要原因之一。我们需要注意的是，学习是一种复杂的现象，只有理论上的依据能够很好地服务于实践中的工作才意味着我们真正了解了机器学习。