What-If工具是Google AI PAIR推出的一款TensorFlow集成的开源应用，它提供了一个交互式的视觉界面，允许用户在不编写代码的情况下分析机器学习模型。该工具支持数据可视化、反事实场景探索、模型预测影响分析等功能，尤其适用于测试模型的公平性和性能。通过What-If工具，可以深入理解模型决策边界，发现模型在不同群体中的表现差异，有助于提升模型的可解释性和公平性。
文 / Google AI 软件工程师 James Wexler
来源 | TensorFlow 公众号
构建有效的机器学习 (ML) 系统需要提出许多问题。仅仅训练一个模型，然后放任不管，是远远不够的。而优秀的开发者就像侦探一样，总是不断探索，试图更好地理解自己的模型：数据点的变化对模型的预测结果有何影响？对于不同的群体，例如在历史上被边缘化的人群，模型的表现是否有所不同？用于测试模型的数据集的多样化程度如何？
要回答这些类型的问题并不容易。探索 “What-If” 场景通常意味着编写一次性的自定义代码来分析特定模型。此过程不仅效率低下，而且非编程人员很难参与塑造和改进 ML 模型的过程。Google AI PAIR 计划的一个重点就是让广大用户能够更轻松地检查、评估和调试 ML 系统。
我们发布了 What-If 工具（https://pair-code.github.io/what-if-tool/），这是开源 TensorBoard 网络应用的一个新功能，可以让用户在无需编写代码的情况下分析 ML 模型。在给定 TensorFlow 模型和数据集指针的前提下，What-If 工具可为模型结果探索提供交互式可视界面。
What-If 工具：展示了一组面部图片（共 250 张），以及微笑检测模型得出的结果
What-If
最低0.47元/天 解锁文章
4442
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
