矩阵的病态性研究相关笔记
一、概念定义
1.1 良态VS病态
病态问题(ill-conditioned problem)是指输出结果相对于输入非常敏感,输入数据哪怕是极少(或者极微妙)的噪声也会导致输出的较大改变(该术语并没有严格的官方定义)。
相反的,对于输入不敏感的问题,我们就称为良态问题(well-conditioned problem)。
1.2 条件数
条件数(condition-number)是用来衡量输出相对于输入敏感度的指标,良态问题和病态问题就是靠这个指标来区分的。
1.3 良态系统
我们把良态问题的内涵做一个延伸,对于任意一个系统,系统的输入和输出属于良态问题,我们称之为良态系统(或者这个系统是良态的)。
这里的系统的概念非常广泛,可以涵盖各种各样的类型。比如,以人体神经系统来说,一个良态的神经系统(身体健康的人),在外界环境温度(输入)发生微小改变时,它对人体温度的调节(输出)也应该是微小的。再比如,一个良态的汽车动力系统,当输入(油门大小)发生微小改变时,输出(动力的加减)也应该是微小的。
一个良态的分类/聚类/回归系统(模型),当输入数据中存在噪声时,其输出与没有噪声时相比,变化不应该太大,否则这个系统的鲁棒性就很差。存在过