可信人工智能

定义

可信AI，就是确保AI的公平性、可解释性、健壮性和透明性，确保算法可被人信任。

存在的问题

1. 算法不鲁棒导致的应用风险
   自动驾驶汽车未能及时识别行人导致的交通事故
2. 黑箱模型导致算法难以解释，对用户不透明
   难以推广至医疗、金融等需要解释争议性决策的领域
3. 数据、模型和评估的偏见导致的决策不公平现象
   例如保险定价、犯罪预测等场景可能对部分人群存在偏见
4. 数据滥用导致的隐私泄露风险
   个人隐私数据的广泛收集和使用导致泄露的可能性增大，一旦丢失会对个人和企业等造成极大的负面影响

目前方案

可信人工智能