差分隐私 机器学习_微软发布多个建置可信AI的问责机器学习工具

为了提高人工智能解决方案的透明度，微软发布多个工具，在Azure上提供负责任机器学习服务(Responsible ML)，微软提到，由于机器学习开始被深入整合进日常业务流程，因此透明度显得特别重要，Azure机器学习的问责功能，包含三个部分，理解模型、保护人们和数据以及控制端到端机器学习程序。

微软提供InterpretML工具包，让企业可以利用模型可解释性功能，进一步理解模型行为，并向终端用户以及业务相关利益人士，解释机器学习所产生的结果。InterpretML工具包有助于建立精确的机器学习模型，让开发人员可在模型训练和预测阶段，了解模型的行为，而且还适用深度神经网络，另外，模型可解释性功能也可以执行假设分析，透过更改特征值，以确定这些特征对模型预测的影响。

微软表示，当前建置人工智能系统的挑战之一，便是无法优先考虑公平性，微软现在提供可以和Azure机器学习结合使用的Fairlearn工具，开发人员和资料科学家，可以利用专门的算法，确定每个人都能获得公平的结果。用户可以在模型训练和部署期间，利用Fairlearn来评估模型公平性，在减少不公平现象的同时，优化模型效能，该工具提供了互动可视化工具，可以用来和推荐的模