可解释的机器学习
中文标题:通过终端用户启发设计超越XAI算法边界
英文标题:Transcending XAI Algorithm Boundaries through End-User-Inspired Design
时间:2022.8.18
作者:Weina Jin, Jianyu Fan, Diane Gromala, Philippe Pasquier, Xiaoxiao Li, Ghassan Hamarneh
机构:西蒙弗雷泽大学(Simon Fraser University)、英属哥伦比亚大学(The University of British Columbia)
链接:https://arxiv.org/pdf/2208.08739.pdf
简介:现有可解释人工智能(XAI)算法的边界仅限于基于技术用户对可解释性需求的问题。这种研究范式不成比例地忽略了XAI的大量非技术最终用户,他们没有技术知识,但在人工智能辅助的关键决策中需要解释。缺乏对最终用户的可解释性功能支持可能会阻碍人工智能在高风险领域的安全和负责任的使用,例如医疗保健、刑事司法、金融和自动驾驶系统。在这项工作中,本文探索了为最终用户的关键任务量身定制的XAI而设计的激发新的技术问题的框架,引出了用户对XAI算法的解读和需求。