Gartner最新生成式AI报告：300个行业用例揭示GenAI垂直行业发展的五个关键的不确定性

我们对各行业 GenAI 用例的分析揭示了高管在规划工作时面临的五个关键不确定性。首席信息官可以利用这项研究来战略性地应对这些不确定性，并最大限度地提高 GenAI 投资的成果。

主要发现

• 我们对 300 多个特定行业的生成式 AI 用例的分析揭示了五个关键的不确定性，这些不确定性将决定生成式 AI (GenAI) 是否能够带来变革性成果，以及何时能够实现：

o   GenAI的技术进展

o   GenAI 的人机界面

o   GenAI 的商业市场

o   GenAI 的监管环境

o   GenAI的安全、隐私和安全

• 行业业务和技术领导者主要关注了解 GenAI 目前的机遇和风险。他们对 GenAI 的期望基于其职业生涯中过去采用技术的经验。

• 对 GenAI 未来不确定性的全面考虑，包括极端结果的可能性，可以显着影响投资规模、时机、重点和用例优先级。

建议

• 培养一种能够应对GenAI 未来不确定性的领导文化。促进对规划假设的批判性质疑，并明确评估新 GenAI 计划的风险和机遇。

• 向执行团队介绍本研究中的五个关键不确定因素。引导讨论这些发展可能如何影响GenAI 投资、它们与公司的技术采用概况的一致性，以及哪些信号与组织在 GenAI 方面的机会和风险最相关。

• 在设计 GenAI 策略时，优先考虑适应性作为基本要素，确保方法保持灵活并能够响应不断变化的 GenAI 技术和市场动态。

为什么重要

2023 年，GenAI 成为企业领导者以及广大公众的首要考虑因素。即使在消费者和企业采用GenAI 的最初几个月，GenAI 也能带来明显的生产力提升。但当我们进入该技术的下一阶段时，问题就变成了：“GenAI 会改变行业吗？如果是的话，什么时候？” 图 1 阐明了变革成果的焦点问题。

图1：行业领导者面对GenAI未来的焦点问题

与所有快速新兴的技术一样，这个问题引起了大众媒体、未来艺术和娱乐、技术供应商，当然还有高管团队成员的广泛猜测。了解该技术的潜在收益和危害是有好处的。

但仅靠广泛的猜测是不够的，而且对于良好的战略规划来说可能会带来灾难性的后果。一方面，它可能会忽视这些投资的真正风险，从而对 GenAI 项目产生错误的信心。另一方面，它可以为怀疑论者和危言耸听者提供不采取行动的永久借口，因为他们推测可怕的伤害、灾难性事件和无休止的限制阻碍了取得任何真正的进展。

技术领导者必须明白，围绕 GenAI 的不确定性不仅是需要缓解的挑战，也是需要抓住的战略机遇。

定义关键不确定性

我们必须清楚地确定无法自信地回答有关 GenAI 未来的问题，这些问题将决定它是否会带来许多人设想的变革结果。我们将这些问题称为“关键的不确定性”。这一框架鼓励采取适应性和明智的策略，并准备好随着新数据和见解的出现而修改方法。它还将确保领导团队保持对变化的响应，同时认识到他们预测未来重要情况的能力有限。

Gartner行业咨询服务评估了300 多个行业特定用例，涵盖 16 个行业部门。我们研究了每个用例的可行性，并回答了以下问题：“如果一个组织今天尝试这个用例，它成功的可能性有多大？” 此过程提供了独特的多行业视角，因为它植根于行业实际评估和实施的用例。它揭示了 GenAI 的现状和行业转型之间的关系。图 2 显示了我们的分析中经常出现的五个关键不确定性，本研究将对其进行更深入的研究。

图 2：决定行业转型的五个关键不确定因素

分析：GenAI的技术进展

图3：GenAI的技术进展

当今GenAI的底层技术和数据科学技术至少从 2017 年起就已公开。但由于2022 年领先模型能力的飞跃，GenAI 迅速进入公众意识。尚不确定这些模型的下一次迭代中这种性能的轨迹将如何。模型能力的另一个类似飞跃可以更快地带来转型。如果回顾过去，我们正在接近 GenAI 的极限，转型可能会更加延迟。以下是示例：

• 模态——迄今为止，大部分焦点都集中在大型语言模型 (LLM) 上，这些模型接受大量语言数据的训练，接受文本中的用户提示并生成语言工件作为响应。其他生成输出模式，例如图像、音频、视频和合成数据，可以独立使用（“单峰模型”）。GenAI 技术提供商正在将单峰模型组装成复合系统。以多种模式（“多模态模型”）本地训练的基础模型现在的部署有限。

• 训练数据——当今领先的基础模型很大程度上是根据公共互联网上可用的数据进行训练的。随着公共互联网本身越来越多地充斥着生成的内容，目前尚不清楚这可能如何限制未来模型的开发。

• 运行时性能——如今的基础模型的运行计算量非常大，比企业 IT 中的常见任务（例如加载网页）密集几个数量级。随着基础模型变得越来越大，它们需要越来越多的计算能力来运行。这对成本和可持续性有直接影响。因此，许多潜在的用例降低了投资回报或整体项目价值。更好的硬件、数据科学技术和运行时优化即将到来，但它们的好处尚不清楚。

• 基础模型架构——试点或生产中的 GenAI 用例现在通常只使用一种基础模型。数据科学技术（有时称为“集成”）和软件工具（有时称为“代理”）正在开发中，以利用多个基础模型的优点并减轻其缺点，以实现改进的结果。

• 可控性——当前的领先模型在解决方案创建者可以控制输出性质方面存在局限性。“幻觉”是最常见的例子，模型通常使用可以欺骗用户的自信语言返回非事实响应以满足提示的意图。如今，如果不消除为头脑风暴、角色扮演和创意写作等创造性任务产生新想法的能力，就很难消除幻觉风险。

• 透明度——这种能力是指用户（或采用组织）理解模型如何生成内容以及从何处检索特定事实（“基础”）的能力。此外，一旦在下游应用程序中使用生成的内容（“水印”或“标记”），该功能就会重新识别生成的内容。

市场预期

商业和技术领导者普遍期望，随着他们所经历的数字技术（例如移动电话、物联网或“狭义”人工智能）已经进入主流采用，基础模型将以同样的增量速度提高能力。这是一个重要的假设——它特别承认历史上市场在识别技术早期阶段的指数发展方面做得很差。

对行业转型的影响

尽管各行业对 GenAI 进行了巨大的宣传和关注，但尝试实际使用该技术的个人和组织很快意识到它的严重局限性。响应通常是关注使“人参与循环”（即生成的工件首先由员工使用）并优化当前业务和运营模型（而不是创新新模型）的用例。由于这些限制，转型将无法实现。

行业领导者应该关注什么

业务主管不需要跟踪基础模型的核心数据科学的详细进展。然而，技术高管应该将自己定位为 GenAI 的主题专家 (SME)。他们可以使用一些公开的模型评估标准，例如Hugging Face提供的模型卡或斯坦福大学以人为中心的人工智能研究所创建的基金会模型透明度指数。非常先进的组织（数量很少）可能有雄心通过训练自己的基础模型来构建专有解决方案。对于他们来说，数据科学领导者需要预留时间和培训资源，通过学术出版物和行业联盟更详细地跟踪这一趋势。

分析：GenAI的人机界面

图 4：GenAI 的人机界面

大多数企业 GenAI 解决方案都遵循基于桌面的文本提示和响应用户界面。此外，用户在很大程度上仍然不知道生成响应的方法和动机。对于许多转型行业用例来说，其可行性取决于使 GenAI 解决方案更易于使用且更受用户信任，但尚不清楚是否以及何时能够达到这些阈值。两个重要方面是：

• 硬件——虽然已部署的解决方案主要局限于文本输入桌面界面，但许多其他界面正处于开发或部署的早期阶段。例如，OpenAI于2023年9月开始向ChatGPT Plus用户发布语音界面功能。智能手机、吊坠（例如 Humane）、眼镜（例如 Brilliant Labs）、增强现实 (AR) 和虚拟现实 (VR) 耳机（例如 Meta 的 Quest Pro）以及基于位置的环境聆听设备将越来越多地出现作为GenAI用户体验的硬件。

• 信任和协调：

o   用户与基于角色的 GenAI 的亲密程度——当今领先的通用GenAI 模型给用户的印象是积极、乐于助人且普遍谦虚——但除此之外，在设计上却相当平淡。如果没有这些有意的限制，GenAI 具有独特的能力，可以从互联网上的内容中学习角色或特定人的行为。这些技术已经部署在 Replika 等消费技术中，用户可以在其中生成 AI 助手角色或 Meta 的 AI 聊天机器人，其中一些经过训练可以采用名人的语气。

o   用户对业务模型对模型行为影响的认识——当今使用的大多数GenAI解决方案都被设计为仅响应用户给出的提示，而不会将第三方的动机或利益带入响应中。随着解决方案开发人员影响 GenAI 行为方式变得越来越可行，这些技术可以被设计来推动特定产品的销售、说服选民或参与更健康的行为。

市场预期

大多数组织都专注于使用现有界面来理解 GenAI 用例，而很少关注 GenAI 人机界面的新变化。如果组织中已经部署了其他接口，则预计将通过 GenAI 功能来丰富这些接口。例如，记录患者和医生之间的办公室就诊的环境监听设备现在通过 GenAI 总结和内容开发功能得到了丰富。识别制造环境中的安全事件的计算机视觉解决方案可以自动生成安全事件报告。在医疗保健和金融服务等基于信任的行业中，人们隐约担心客户会受到第三方 GenAI 的不利影响而做出错误的决定。

对行业转型的影响

只要行业 GenAI 用例需要详细审查准确性（即“人在循环”）并首先交付给内部用户，桌面界面就不会成为价值限制因素。较大的屏幕非常适合这些用例，因为对于大多数组织来说，它们是信息最丰富、最高效且易于使用的界面。然而，随着消费者技术体验融入新硬件和值得信赖的人工智能关系，企业 IT 体验将越来越令员工和客户感到沮丧。随着员工寻求在工作场所使用自己喜欢的眼镜、吊坠、别针和基于角色的人工智能，2000 年代“自带设备”的争论可能会更加激烈地重演。

在工作场所之外，还有更多的风险。图 5显示了主要研究数据，比较了财富管理、财产和伤亡保险以及健康保险三个行业中消费者对 GenAI 完成行政交易的信任度。这三个行业都有志于利用GenAI 改变基于关系的服务模式。但目前的消费者信心水平使得这一目标变得不可行。

图 5：消费者对人工智能解决方案信心不足的三种关系驱动型商业模式

行业领导者应该关注什么

2023 年，公共领域 GenAI 工具的整体使用情况受到广泛关注——例如 OpenAI 于 2023 年 11 月报告的 ChatGPT 每周用户数达 1 亿。2024 年，领导者应对其他个人技术的使用有更高的认识以及发布时的硬件接口。特别重要的是信任的证据——GenAI 解决方案的用户在工作和个人生活中是否有信心使用生成输出做出相应的决策？

分析：GenAI 的商业市场

图 6：GenAI 的商业市场

行业可以转型，但前提是获得技术和服务提供商的大力支持。大多数行业用例将在此类供应商的部分或全部支持下进行部署。目前尚不清楚这些商业模式将在多大程度上与行业转型保持一致以及以何种速度进行。主要考虑因素包括：

• 垂直应用——大多数行业都有一组至少在一个领域特定行业的技术巨头。这些供应商将以两种方式对采用产生重大影响：

o   他们将 GenAI 功能集成到现有解决方案中的程度，特别是对于现有工作流程中的任务级步骤。当现有供应商提供这些实用程序时，它可以为现有客户提供安全且简单的采用途径。这也将使这些组织能够将 GenAI 投资和技术资源集中在开发更具差异化的用例上。

o   他们有能力并且愿意让他们的数据随时可供 GenAI 解决方案进行培训和检索。

• 垂直或特定领域的基础模型——当今部署的绝大多数GenAI 使用通用模型，例如 ChatGPT、Claude、Llama 或Gemini 。Gartner 预测，用例将越来越多地使用专门为优化特定行业、领域或任务而设计的基础模型。这些模型在行业内商业化的速度将是转型速度的关键指标。

• GenAI 市场（也称为中心或花园）——技术供应商提供了各种方法来策划和集成第三方基础模型，向客户承诺在选择基础模型、加快采购和更高效的技术集成方面有更多选择。然而，这些市场，无论是算法、数据还是应用程序，成功的记录好坏参半。

• GenAI 原生垂直初创公司——对于更具变革性的用例，风险投资支持的初创公司更有可能拥有推动创新的技术人才和风险偏好。他们往往缺乏行业信誉、数据访问权限以及与现有工作流程的接近程度。

• 定价——早期采用者对定价结构和水平缺乏透明度以及无法预测解决方案的总成本表示沮丧。行业转型需要显著的正投资回报，无论结构是按用户和每月收费、基于代币的交易定价，还是通过云市场访问第三方模型所支付的溢价。

• 实施工作——许多 GenAI 的早期采用者对他们集成、配置和部署第一个 GenAI解决方案的速度感到惊讶。如果这种情况持续下去，或者如果实施速度比过去的新兴技术更快，那么转型迟早会到来。另一方面，如果供应商在可移植性或集成标准方面倒退，实施可能会变得更加困难。

• 服务和培训——GenAI技术产品可能（也可能没有）拥有强大且负担得起的培训计划和第三方服务支持。这将包括直接使用产品的培训，以及使用该工具改造现有解决方案的最佳实践培训。

• 解决方案维护——与许多前几代技术一样，今天的创新解决方案将成为明天的遗留债务。GenAI 解决方案存在特殊的依赖性。例如，当该模型更新到新版本或完全替换时，针对一个基础模型优化的微调或检索增强生成（RAG）可能需要进行重大更改。

• 合同——在GenAI 解决方案的背景下，管理知识产权 (IP)、法律诉讼赔偿和服务水平协议的条款和条件受到更多关注。目前尚不清楚供应商在多大程度上愿意以对客户更友好的条款签署合同（例如许可证合规性、服务水平协议和知识产权保护）。

市场预期

一些行业已经看到垂直解决方案提供商早期成功地整合了能力。例如，电子健康记录供应商 Epic Systems 与 Microsoft 和 OpenAI 合作，于 2023 年 3 月部署了简单但有价值的用例。在这种情况发生的情况下，许多人期望竞争供应商在不久的将来提供类似的产品。如今购买 GenAI 解决方案的组织通常期望在一个云环境中部署 GenAI 解决方案比在多个环境中部署要容易得多。

对行业转型的影响

大多数行业将严重依赖技术和服务提供商来开发 GenAI 解决方案。与之前的新兴技术类别相比，早期投资和小规模试点既快速又容易。然而，采用的速度以及随着时间的推移，行业的转型将在很大程度上取决于商业市场的敏捷性。

行业领导者应该关注什么

所有组织都应该期待其垂直技术供应商定期更新其集成 GenAI 功能的产品路线图。那些与云提供商签订现有合同的组织应注意锁定，这可能会导致他们的 GenAI 解决方案成本更高。领先的组织将开发一种试验多个供应商解决方案和支持模型的实践，并从性能、成本和风险的角度选择最高价值的解决方案。

分析：GenAI的监管环境

图 7：GenAI 的监管环境

随着 GenAI 更加深入地融入社会，监管环境存在很大的不确定性。认为监管必然会推迟行业转型，或者认为缺乏监管会更快地实现行业转型，这是错误的。然而，所有行业都会受到基础模型开发和使用监管的影响。某些行业（例如医疗保健、公共部门和金融服务）很可能有额外的法规或实践标准，其影响力如此之大，以至于实际上成为强制性的。主要考虑因素包括：

• 现有法规的应用——当前的法律框架如何适应或应用于 GenAI，包括评估其有效性和差距。

• 可持续性——GenAI对环境的影响以及法规在确保负责任使用方面的作用。

• 特定功能的利用——监管机构对特定 GenAI 功能（例如面部识别）的反应及其对隐私和道德使用的影响。

• 用户透明度——法规强制执行 GenAI 使用透明度的程度，确保用户了解 GenAI 的使用方式、原因和使用人。

• 知识产权——知识产权法如何与 GenAI 交叉，包括保护用于训练基础模型的内容和从基础模型生成的内容。

• 偏见——解决现有法规，以减轻 GenAI 中的偏见，确保人工智能结果的公平性和非歧视性。

市场预期

领先的 GenAI 产品公司正在公开寻求监管，渴望避免自 2000 年代初以来社交媒体公司经历的伤害（和负面报道）。尽管具有这种开放性，但组织仍担心政府机构无法跟上 GenAI 技术快速发展的步伐。已经投资 GenAI 的组织通常认为即将出台的监管不会威胁到他们现有的 GenAI 投资。

对行业转型的影响

监管可以在建立目前通常缺乏的消费者信任基线方面发挥作用。在自动驾驶汽车等其他新兴技术中，监管中缺乏安全标准，导致不良安全事件使转型延迟多年。另一方面，既得利益者（例如工会或专业协会）将大力游说监管机构，通过限制性政策来阻止或推迟 GenAI 的采用。从财务角度来看，合规总成本（确保遵守 GenAI 法规所需的所有人力和资本投资）将决定转型的时间。

行业领导者应该关注什么

领导者应关注国家、地方和特定行业的监管活动，并评估新政策是否有能力利用 GenAI 推进安全创新，为行业创造价值。此外，行业领导者应向关键意见领袖、社团、工会和监督团体寻求推动或限制变革的信号。

分析：GenAI的安全性、隐私性和安全性

图 8：GenAI 的安全性、隐私性和安全性

对于考虑首次 GenAI 投资的组织来说，受保护数据和 IP 的安全性是一个关键问题。这是转型道路上关键且直接的瓶颈。这种关键不确定性的主要考虑因素是：

• 网络攻击的脆弱性——GenAI应用程序对网络威胁的敏感性。这包括评估 GenAI 系统针对黑客攻击、数据泄露和其他形式的网络利用的稳健性。

• 用户和企业数据的隐私——GenAI应用程序如何在训练和使用过程中处理个人用户和企业的隐私。这涉及探索数据收集、存储和使用实践，以及保护敏感信息和防止数据泄露的保护措施。

• GenAI 支持的不良行为者——在 GenAI 可用于恶意目的的环境中维持权力平衡的挑战。这包括预防和减轻可能利用 GenAI 进行不道德或非法活动的不良行为者带来的风险的策略。

• 安全技术的可扩展性——随着模型规模的扩大，当今用于创建基础模型的安全技术（例如根据人类反馈进行强化学习[RLHF]）可能会也可能不会继续有效。Anthropic 主要是围绕这些问题而成立的，并为人工智能安全的可扩展性提出了三种场景。

市场预期

商业和技术领导者预计，安全和隐私方面的考虑将成为 GenAI 用例可行性的一个相当大的限制。图 9 显示，各行业的商业和技术领导者将隐私问题视为最关心的问题。更关注的领域（如生命科学）和不太关注的领域（如零售业）之间的巨大差异很大程度上归因于特定行业的隐私考虑。

图 9：采用 GenAI 时企业最关心的问题

对行业转型的影响

几乎所有真正具有变革性的用例都需要处理专有数据。虽然跨行业都是如此，但在数据和决策特别敏感的领域（例如医疗保健和金融服务）尤其如此。

行业领导者应该关注什么

GenAI 技术供应商保证 GenAI 解决方案功能强大且安全。业务和技术领导者应该关注这些功能在其行业的实际实施中如何体现。随着更积极的组织开始大规模实施 GenAI 解决方案，领导者应详细记录解决方案中处理了哪些受保护数据、其执行方式以及合规性产生的开发成本。

下一步

首席信息官可以利用不确定性来最小化风险并抓住战略机遇

在 GenAI 的背景下，企业 CIO 的角色超越了传统的技术管理职责。首席执行官、最高管理层同事以及 IT 部门和整个组织的员工将寻求目光敏锐的技术领导力。要想看清有关 GenAI 灾难性危险和前所未有的机遇的炒作，首席信息官需要对未来的不确定性有清晰的评估。本研究中概述的五个关键不确定性提供了一个极好的起点。

CIO 可以采取以下行动：

1.    通过行政领导将五个关键的不确定性社会化。

2.    讨论对于组织当前和未来的 GenAI 投资最为关键的每个关键不确定性的组成部分。

3.    确定迫使执行团队调整 GenAI 战略的信号。适应可能意味着 GenAI 计划的新投资、撤资或重新平衡。