警惕安全档案的陷阱 | 确认偏见

安全档案存在一个比较深层次的问题，就是确认偏见。所谓确认偏见，就是一种为自己已有观点不断搜集解释依据，不断确认自己观点的心理趋向（通俗点讲就是自己骗自己）。举一个简单的例子，假如你逛某宝时发现一双自己有点喜欢的鞋子（你可买可不买），你随手把它加入购物车，随后的几天每次当你打开某宝时，你都会看一眼这双鞋，你会从不同的角度为这双鞋找优点（比如它款式真好，价格又便宜，我今天出门发现鞋子不够了等等）来不断暗示自己这双鞋太好了，然后，你慢慢发现这双鞋简直太完美了，你必须把它买下来（买回来后，你发现自己其实并不那么喜欢或者需要这双鞋），买鞋这个结论中就包含了比较明显的确认偏见。

Nancy Leveson 在《White Paper on the Use of Safety Cases in Certification and Regulation》中提到“ Confirmation biases are not limited to the collection of evidence. The specification and interpretation of the information is also critical确认偏见不仅限于收集证据，信息的规范和解释也很关键”在这篇文章中，她认为“ People will focus on and interpret evidence in a way that confirms the goal they have set for themselves. If the goal is to prove the system is safe, they will focus on the evidence that shows it is safe and create an argument for safety. If the goal is to show the system is unsafe, the evidence used and the interpretation of available evidence will be quite different. People also tend to interpret ambiguous evidence as supporting their existing position人们倾向于为自己设定的目标，搜集确认证据，假如目标是“安全”，人们就专注于搜集证据证明安全，假如目标是证明系统不安全，人们用来进行解释和证明的证据就会截然不同（不会通过证明安全来推翻不安全这个观点，而是专门搜集不安全的证据），人们也倾向于解释模棱两可的证据来佐证自己的观点”。

对英国皇家空军的尼姆罗德事件（2006年9月2号英国皇家空军的一架Nimrod飞机由于飞机故障起火坠毁，机上14人全部身亡，是英军自马岛战争以来单次死亡人数最多的事件）的评审报告中，明显可以看出Nancy担忧的确认偏见在现实中占了上风。

报告中说“…the Nimrod safety case was a lamentable job from start to finish. …Its production is a story of incompetence, complacency, and cynicism. 自始至终Nimrodd的安全档案都是一项令人悲哀的工作，它的编制过程中充满了无能、自满和 玩世不恭The Nimrod Safety Case process was fatally undermined by a general malaise: a widespread assumption by those involved that the Nimrod was ‘safe anyway’ [because it had successfully flown for 30 years] and the task of drawing up the Safety Case became essentially a paperwork and ‘tickbox’ exerciseNimrod安全档案的编制流程被一个普遍性的低靡状态完全破坏，即，Nimrod安全档案的干系人都普遍认为nimerod是安全的（因为它已经安全飞行了30年），安全档案的起草本质上变成了一种文案工作和“打勾”练习。”

上面的例子告诉我们，当我们准备安全档案时，我们一定要意识到确认偏见的存在，并且保证我们的安全档案制作是真实项目的一部分而不仅仅只是附加工作。在《The Field Guide to Understanding Human Error》中Sidney Dekker 提出了一个做安全档案的好方法，即让开发者去证明系统是不安全的，然后希望他们不会成功。

下期预告：

安全档案 | 安全档案的组成
安全档案Safety Case的内容介绍