机器学习算法鲁棒性并没有严格的量化的定义。鲁棒性,robustness,顾名思义,就是健壮的意思。
一个人健壮,就是小毛小病,不碍事;不健壮,就是病来如山倒。一个人健壮,就是晴天好,雨天好,冬天好,夏天好,不会突然莫名其妙地不舒服了。
机器学习模型的鲁棒性主要是两个方面:
-
小毛小病可以看作是数据中的错误点、或者误差。难免的,训练集中常常有些数据是有错位的,类似的,预测样本中也有可能有一些错误。一个具有鲁棒性的机器学习模型能够不被这些训练集中的错误数据影响,依然能绕过浮云看本质。
-
常常训练样本和预测样本的分布不大相同,一个具有鲁棒性的模型就是即使当测试集的数据分布与训练集数据分布比较不同的时候,模型也能给出较好的预测结果。鲁棒性模型不光是“夏天”好,“冬天”也要好。