稳定性、鲁棒性、与非脆弱性的区别

在机器学习领域，总是看到“算法的鲁棒性”这类字眼，比如这句–L1范数比L2范数鲁棒。
Huber从稳健统计的角度系统地给出了鲁棒性3个层面的概念：
模型具有较高的精度或有效性，这也是对于机器学习中所有学习模型的基本要求；
对于模型假设出现的较小偏差，只能对算法性能产生较小的影响； 主要是：噪声（noise）
对于模型假设出现的较大偏差，不可对算法性能产生“灾难性”的影响；主要是：离群点（outlier）

正说着话，我忽然见到一位非常漂亮可爱的女生与他们在一起，灵机一动，就转身对对着漂亮女生，给出了如下的解释。
（1）稳定性：他是你的男朋友。那么，如果他对周围晃来晃去的其他年轻漂亮女孩子虽然也动了点心，但把持的住，依然很喜欢你，我们说他对你的感情是稳定的。
（2）鲁棒性：也称为是强壮性、或者稳健性。当他的地位变了，升迁了，发达了，抑或变得与以前大不一样的时候，他依然还是稳定的：依然很喜欢你，且对周边年轻漂亮的女孩子把持的住。我们说他对你的感情就是鲁棒的（Robust）。
（3）非脆弱性：前面说的都是假定你是坚定的、把感情作为始终不渝的，他的反应。现在，再来一点更厉害的：当你变老了，不再漂亮了，或者遇到不幸的创伤，疾病而变得……，总之情况很糟，或者他发现了你过去可能遭遇到的一段不愉快的历史等等。甚至更极端地，当你自己有点变心、花心、甚至犯了点错误的时候，他若依然是稳定的：依然很喜欢你，且对周边年轻漂亮的女孩子把持的住。我们说他对你的感情就是非脆弱的的。

稳定性就是指系统抵御外部干扰以保持理想工作状态的能力；
鲁棒性就是系统在内部结构发生扰动的情况下，外部干扰抵御能力的保持能力。或者说是稳定性的强壮性。
当一个系统的稳定性和鲁棒性存在一定问题的时候，可以通过附加控制机制来改善这些性质。然而，当控制手段被引入之后，控制手段本身所发生的各种偏差和失误带来的不确定性、也就成为系统的又一干扰因素。如何克服由这一新型干扰引起的偏差，就成了所谓的控制系统（控制器）的非脆弱性问题。