机器学习中的鲁棒性

我们在科学中使用「Robust」时所采用的含义，即一个系统或组织有抵御或克服不利条件的能力。

举例来说，在建造一座大厦时，我们要考虑影响建筑物安全性的因素有哪些，例如建筑物如果处于震区，要考虑如何建造才能承受地震而不倒塌，遭遇恶劣天气（如台风、龙卷风）时需要承受几级大风以及如何让建筑能够抵抗此等级的天气等等。在计算机领域「鲁棒性」所表达的内涵是相似的，即该系统或算法能够适应应用环境，如数据中的噪声、不同的应用领域等等。

 

在机器学习，训练模型时，工程师可能会向算法内添加噪声（如对抗训练），以便测试算法的「鲁棒性」。可以将此处的鲁棒性理解述算法对数据变化的容忍度有多高。

鲁棒性并不同于稳定性，稳定性通常意味着「特性随时间不变化的能力」，鲁棒性则常被用来描述可以面对复杂适应系统的能力，需要更全面的对系统进行考虑。