引言
稳定性刻画了训练集的扰动对算法结果的影响
一般考虑两种扰动
- 移除样本
- 替换样本
替换样本均匀稳定性
移除样本均匀稳定性
这里第一个不等式,用的三角不等式
需要先添一项再减去一项即可
结论:移除样本均匀稳定性可以推出替换样本均匀稳定性
替换样本假设稳定性
回顾前面两种稳定性
我们可以发现,其要求对于任意的数据集D和样本z满足上述两个不等式
这个条件太严格了
现在可以通过对数据集D和样本z取期望,在期望条件下考虑训练集的扰动对算法输出函数的影响
就是下面的替换样本假设稳定性