概念一：numerical stability 数值稳定性

一句话：你的方法不会过分的放大数据数值上的错误。

比方说迭代，每次你都要四舍五入，那么最后你的结果比起如果不四舍五入差距是否可以接收。你也许想我不四舍五入不就得了，但是四舍五入只是一个例子，放到神经网络模型里面你知道你的网络干了什么省略。而且，同样的精度，某些方法就不敏感，您的就敏感，那就说明人家的好。

不能用坏的数据评价我的数值稳定性。坏的数据测试是指故意用一些不好的数据对方法进行测试。比方说整一张美颜过得高晓松放在亚马逊名人识别的网站上，他要能识别出来是高晓松那就坏了。

那我们怎么测试我方法的数值稳定性呢？bounded estimate.你要的错误是由算法产生的，不因为数据而转移的，比方说，你没有规格化这个步骤，你的算法就会对正常的，好的数据产生不好的结果，这不是数据的问题，是你的算法不完善。

另一个需要注意的点是，稳定性是针对问题来讲的。打个比方，这个人脸识别系统很稳定，但他是针对名人的，你非得上传自己的照片，让人家说是谁，不说还给差评，请不要难为人家CNN，他还是个孩子。

数学定义如下。

https://books.google.com.hk/books?id=VrBR_yhE92MC&pg=PA154&lpg=PA154&dq=%E6%95%B0%E5%80%BC%E7%A8%B3%E5%AE%9A%E6%80%A7&source=bl&ots=qoO18NIOMa&sig=PCzgYc7o0Ho50WzdKL8jUwxURT8&hl=zh-CN&sa=X&redir_esc=y&sourceid=cndr#v=onepage&q=%E6%95%B0%E5%80%BC%E7%A8%B3%E5%AE%9A%E6%80%A7&f=false