Rachael Greaves 在 QCon London 上：道德人工智能可以减少数据泄露的影响

在 QCon 伦敦, Rachael Greaves，Castle Systems 首席执行官, 介绍了数据最小化作为减少数据泄露影响的机制的义务和好处。 只要考虑道德原则，人工智能自动分类和自动决策工具就可以帮助应对不断增加的数据量，从而允许挑战决策.

格里夫斯在演讲开始时指出，网络安全主要侧重于通过培训、防火墙和加密来降低泄露的可能性。 但是，风险是可能性和影响的组合，即. "渗透的可能性很小，但影响重大".

数据最小化 是一种降低数据泄露影响的机制。 她表示，建立一个坚不可摧的系统是不可能的: "总会有 零日漏洞, 值得信赖的内部人员或错误配置". 这是一项安全和隐私原则，要求组织限制其持有的信息量，因为他们知道自己可能随时被泄露或数据泄露到公共领域.

除了法律义务之外，格里夫斯还指出了实施数据最小化的好处:

• 威慑：数据最小化减少了数据泄露时可能造成的潜在危害，但也阻止了进一步侵入系统的尝试（最大限度地减少恶意行为者可以货币化的数据量将阻止进一步的尝试).

• 响应和恢复：如果您完全了解您的数据，这是数据最小化的第二个好处。 在事件发生之前了解这一点将使您知道“谁参与了泄漏”（哪个客户受到了影响）。 如果发生违规，您可以迅速向受影响方发出警报，将影响降至最低.

• 可保性和风险转移：即使评估过程不透明，网络保险公司的评估也有与敏感数据相关的广泛部分。 研究还发现，包含大量敏感信息的组织往往有更高的保险成本.

• 组织有效性：您需要了解您持有的所有信息，即哪些信息有风险，哪些信息有价值，以及重要的是哪些规则适用于该信息（保留规则、保密规则、监管义务）).

  

即使许多与数据最小化相关的行动可以通过治理来强制执行，格里夫斯认为这是整个组织的一项努力，开发人员在其中发挥着关键作用，特别是在数据清单方面（识别敏感或高价值数据） ）。 她强调，如果处理得当

数据最小化实现组织最大化

数据最小化不是项目中的额外阶段，而是在从创建或捕获到最终处置的整个数据生命周期中持续进行的工作。 数据最小化的三个关键要素脱颖而出:

• 最大限度地减少收集：不要收集无关的个人详细信息，不要在两项不同服务中两次收集相同的数据，不要保留重复项、过多的备份或离线副本，并收集 仅有的 需要什么.
• 最大限度地减少访问权限：最大限度地减少有权访问的人数、权限和访问持续时间 ("查看谁对数据做了什么，并收到针对敏感数据和高价值数据的操作警报，有助于识别权限蔓延..").
• 数据生命周期管理：数据一次性不仅仅是硬盘驱动器 消磁. 通过围绕记录管理和保留政策的政策和治理可以完成很多工作.

格里夫斯再次强调，即使许多结果来自流程和治理，随着数据隐私和治理向左移动，开发人员接受并支持“数据最小化理念”也是至关重要的.

鉴于数据的复杂性和海量，技术可以及时、准确地揭示“什么是有价值的、什么是敏感的” (最小化风险并最大化结果). 人工智能非常适合此类任务，尤其是数据的自动分类和 自动决策 (阿德姆）。 系统需要能够跨多个系统收集和标记敏感数据，而不影响源系统，但仍应让人类作为最终决策者:

对于像数据治理这样有风险的事情，重要的是不要将人员完全排除在循环之外.

为了避免人工智能偏见、幻觉或人工智能系统被恶意使用的风险，一些软件辅助义务（无论是否支持人工智能）需要是可解释和透明的。 这样，他们就可以避免对最脆弱的社区造成伤害.

格里夫斯结束了她丰富的榜样(OPM 数据泄露, 澳大利亚大学数据泄露, 疾风丑闻, 等）介绍包含预先提出的最佳实践的清单。 她表示，隐私法倾向于销毁数据，记录法倾向于保护数据，而国家安全法则倾向于处理敏感数据。 因此，无论看起来多么困难，系统都需要通过系统设计来平衡数据风险和数据价值之间的紧张关系.