# 人工智能产品设计：识别技能差距以及如何缩小差距

来源： https://left.eu/ai-act-big-tech-says-jump-eu-asks-how-high/

TLDV：人工智能产品设计师在工作中遇到挑战的情况并不少见，尤其是在理解人工智能产品背后的复杂技术方面。这可能使他们难以与技术专家进行有效沟通，从而导致进一步的复杂化。此外，跟上不断发展的人机交互设计模式可能具有挑战性。在这篇文章中，我编制了一份资源清单，可以提高设计师在这些领域的知识和技能，这样他们就可以自信和轻松地处理他们的工作。

重新思考设计方法

人工智能的进步为人机交互带来了令人兴奋的机会。从在照片中识别你的猫到实现自动驾驶，人工智能为用户体验提供了许多有前途的新可能性。它促进了以前无法想象的互动形式。

尽管人工智能具有巨大的潜力，但将其功能整合到设计方法中并不是一项简单的任务。根据最近的研究，设计师正在努力应对人工智能系统的构想和原型设计的复杂性。

为什么？传统的 UX 和 HCI 设计技术，如草图和原型设计，可能不足以解决 AI 在产品设计中的意外后果。

“HCI专业人员无法轻易勾勒出AI系统在不同环境中适应不同用户的多种方式，”Graham Dove和他的同事在计算系统中的人为因素会议上表示。“….他们也无法轻易地对尚未开发的人工智能系统可能犯的推理错误类型进行原型设计，“我可以补充一下，引用菲利普·范·艾伦的话。

问题：映射设计过程中的 AI 设计挑战

卡内基梅隆大学的杨倩和她的团队研究了人机交互研究人员和专业人士在使用人工智能时面临的挑战。他们在广泛认可的双金刚石设计过程模型中构建了这些挑战和相关研究论文。

图片来源于网络

以下是我从本文中得到的要点，按设计过程步骤进行了细分：

1. 发现（发散思维阶段）

图片来源于网络

• 设计师很难理解人工智能的局限性和能力，这阻碍了他们的头脑风暴和草图绘制过程。

• 设计理念的技术可行性取决于能否获得足够、多样化和高质量的数据，以有效地训练 AI 模型。
• 即使在了解 AI 的工作原理时，设计师也发现很难以非常流畅的方式构思许多可能的新交互和新颖体验。
• 为设计问题选择正确的 AI 技术需要对 AI 技术有深刻的理解，这可能具有挑战性。

2. 定义（收敛思维阶段）

图片来源于网络 - UX设计涉及快速原型设计，以评估人类影响并进行改进。人工智能产品的快速原型设计在预测用户体验方面带来了挑战。 - 斯科特·克莱默（Scott Klemmer）建议创建绿野仙踪系统或基于规则的模拟器，作为早期的交互式AI原型。Josh Lovejoy 和 Jess Holbrook 在他们的文章中进一步探讨了这一点。虽然这是一个有效的选项，但这种方法无法解决由 AI 推理错误导致的 UX 问题。 - Qian Yang及其同事提出的第二种方法是在真实用户中部署一个功能正常的AI系统，以充分理解其预期和意外的后果。然而，团队无法实现快速和迭代原型设计的价值，因为该过程需要太多时间并且不允许早期失败。

3. 发展（发散性思维阶段）

图片来源于网络

• 对于许多用户体验设计团队来说，人工智能技术专家是一种宝贵但往往稀缺的资源。一些设计师发现，由于缺乏共享的工作流程、边界对象或促进协作的通用语言，与 AI 工程师有效合作具有挑战性。
• 模糊的开放式交互设计起来很复杂。它们引入了高度的复杂性，因为它们允许用户以各种方式表达自己。
• 理解与 AI 相关的概念和术语可能具有挑战性，因此很难有效地传达 AI 系统的工作原理以及它的行为方式。
• 如果五分之三（61%）的人对信任人工智能系统持谨慎态度，我们如何设计人工智能和用户之间的共享控制？用户可能不信任人工智能代表他们做出决定，或者可能对放弃控制权持怀疑态度。建立对人工智能系统能力的信任并确保其决策过程的透明度至关重要，但可能很困难。
• 为 AI 系统设计交互具有挑战性，因为它们的环境可能会迅速变化，需要适应性强的交互。
• 人工智能系统是动态且不断发展的实体。以及时、相关和易于理解的方式向用户传达这种持续的演变可能很复杂。

4. 交付（收敛思维阶段）

图片来源于网络

• 人工智能系统可以在与环境交互或接收反馈时发展和适应。这种演变可能导致难以预测或控制的行为变化。一些人工智能模型可能是黑匣子，这意味着要理解它们是如何做出决定的，这是具有挑战性的。因此，预测/缓解不可预测的 AI 行为可能具有挑战性
  人工智能系统可以在与环境交互或接收反馈时发展和适应。这种演变可能导致难以预测或控制的行为变化。一些人工智能模型可能是黑匣子，这意味着要理解它们是如何做出决定的，这是具有挑战性的。因此，预测/缓解不可预测的 AI 行为可能具有挑战性
• 目标是创造逼真且相关的人工智能，而不会令人不安或令人毛骨悚然。设计人员在设计 AI 时必须驾驭这种微妙的平衡，尤其是那些具有类似人类特征的 AI，例如语音、面部表情或行为。如果人工智能太像人类但又不太完美，它可能会落入恐怖谷，这可能会导致用户的不良反应。
• 由于数据有偏见或有缺陷，可能会发生 AI 错误。目前尚不清楚谁应该负责，因为数据收集、预处理、模型开发或实施可能会产生问题。

采取行动：解决已确定的挑战

我将提到的所有问题分为两大类：

• 困难，与缺乏对人工智能系统背后的技术的理解有关
• 困难，与缺乏对人工智能系统设计模式的理解有关

困难，与缺乏对人工智能系统背后的技术的理解有关

仅仅将更多的用户体验分配给使用ML的项目是不够的。他们必须了解某些核心 ML 概念，解开对 AI 及其功能的先入之见，并围绕建立和维护信任的最佳实践保持一致。
Josh Lovejoy 乔什·洛夫乔伊

关于哪些类型的人工智能知识与用户体验设计相关，仍然存在重大争论。然而，人们越来越一致认为，用户体验设计师需要一些人工智能方面的技术专长才能有效地使用它。

大多数人工智能课程都假定先验统计学、概率、线性代数、微积分和编程知识。如果没有这种背景，理解许多 AI 概念可能具有挑战性。

你不需要对人工智能有深入的了解，但对数学和计算机科学的熟悉是必不可少的。

你会碰巧知道任何其他有用的资源吗？如果是这样，请随时将它们放在评论中。

困难，与缺乏对人工智能系统设计模式的理解有关

对人机交互专用设计技能的需求越来越大，但相关课程有限。幸运的是，有许多设计师和研究人员慷慨地分享他们的知识和专业知识。以下是我关注的：

• 雅各布·尼尔森（Jakob Nielsen）在他的博客中提供了许多与人工智能相关的主题的用户体验视角
• Miro 的高级 AI 产品设计师和 UX Goodies 的创始人 Ioana Teleanu 在 IxDF 上创建了“设计师的 AI”课程，并举办了“AI 驱动的 UX 设计：如何提升您的 UX 职业”研讨会
• Vitaly Friedman，欧洲议会高级用户体验顾问和 Smashing media 的用户体验负责人，创建了“AI UX 的设计模式”研讨会
• Greg Nudelman – 时事通讯“AI 用户体验”和 IxDF 研讨会的作者：“如何为 AI 设计体验”和“如何让您的 AI 项目取得成功”
• 斯蒂芬妮·劳里亚（Stefanie Lauria） – IBM人工智能设计主管和战略家。请务必关注她的 LinkedIn 个人资料，了解她将参加的网络研讨会的更新。此外，她正在写一些很棒的文章
• 来自 Netguru 的 Krystian Bergmann 正在分享有关开发 AI 产品的第一手见解。目前，他正在主持一系列关于设计人工智能产品的网络研讨会。第五集《人工智能产品设计模式：将用户体验模式应用于人工智能驱动系统》将于5月29日举行
• 艾米丽·坎贝尔（Emily Cambell）——“Shape of AU”（一个带有人工智能产品交互模式的宝箱）的创造者。您也可以订阅时事通讯
• 在 Medium： https://medium.com/@elaineinthebay 上阅读 elaineinthebay 的故事
• Meta 的对话设计师 Elaine Anzaldo 正在分享一些很棒的文章，最近创建了一个研讨会“对话设计：AI 设计的实用技巧”

如果我错过了任何人，请不要犹豫，在评论中分享他们的名字以及他们创建的任何有用资源。让我们共同努力，扩展我们的知识，帮助彼此成长。

最后的思考

人工智能塑造了我们的思维、感受和行为方式。它推动了定义我们未来的决策。我们有责任将这种潜力用于人性化技术。基于我们不同的价值观和需求构建人工智能需要深思熟虑的设计。

乔什·洛夫乔伊和杰西·霍尔布鲁克

人工智能正越来越多地被整合到各种数字产品和服务中。用户与人工智能的交互将是决定这些产品成功和采用的关键因素。然而，如果我们不能定义和采用新的交互模式和技术，而是依赖过时的启发式方法和对人工智能的有限理解，我们就有可能阻碍创新。

通过结合毅力和创造力，设计师可以挖掘人工智能的全部潜力，为更美好的未来铺平道路

感谢您的阅读，请在评论中分享其他资源，以帮助我们共同构建这个新范式！

偷偷告诉你，来元壤教育瞧瞧吧~（如有侵权，联系删除）