《给所有人的生成式 AI 课》学习笔记（三）

前言

本文是吴恩达（Andrew Ng）的视频课程《Generative AI for Everyone》（给所有人的生成式 AI 课）的学习笔记。由于原课程为全英文视频课程（时长约 3 个小时），且国内访问较慢，阅读本文可快速学习课程内容。

课程介绍

本课程帮助大家了解生成式人工智能的工作原理，以及如何在生活和工作中使用它。适合任何有兴趣了解生成式人工智能在当前和未来的用途、影响和底层技术的人。它不需要任何编码技能或事先了解人工智能知识。

课程分为三个部分，每个部分约 1 个小时，我会结合课程内容进行相关的解读和筛选，以便国内用户更好地理解。

• 第一部分
• 第二部分
• 第三部分

课程链接

第三部分

商业中的生成式人工智能

许多企业会有许多人做各种不同的任务，从技术和业务角度来看，人工智能不能自动化工作，而是自动化任务。大多数工作都涉及到许多任务。例如，客户服务人员会有许多不同的任务，如接听客户的来电，回复客户的消息，检查客户订单的状态，归档交流记录，评估客户投诉情况等，那么假设要分析这些任务，评估它们使用生成式人工智能的潜力，并希望增强或实现任务的自动化。例如，回答客户的文字聊天或检查客户订单状态对人工智能是很容易的，而评估客户投诉情况则可能性较低。现在，生成式人工智能的机会可能是增强或自动化任务。在客户服务人员的场景中，我们可能会让生成式人工智能推荐回复以供客户服务人员编辑或批准，但不能完全自动向客户发送消息。因为我们还不确定生成式人工智能能否给出很好的答案，那么推荐回应可以加快人员的工作效率，但不能完全自动化，这是一个增强的例子。如果我们要自动转录和汇总客户交流记录，那可能是自动化的一个例子。

我们在许多应用程序中看到，企业有时会从增强开始，让人工仔细核查。当对生成式人工智能的输出有信心时，用户界面可以进行调整，使该过程对人类越来越高效，然后增强程度越来越高，也许最终会达到完全自动化。

增强或自动化任务的可能性主要取决于两个因素，即技术可行性和商业价值。技术可行性是指人工智能能做到吗？另外建一个人工智能系统来做这件事要花多少钱？如果不确定 LLM 能否完成某项任务，可以尝试输入 LLM，看看能否让 LLM 完成这项任务。这可以帮助我们相对快速地评估以特定成本使用生成式人工智能的技术可行性。第二个要考虑的是商业价值。首先我们究竟能节省多少时间呢？其次，使用人工智能能更快、更便宜或更持续地完成这项任务并创造可观的价值吗？

很多人对不同职业有一个标志性任务的固有印象，例如程序员写代码，医生看病人，律师上法庭辩论案件。但当我们系统性地分析一个职业所包含的具体任务时，会发现 AI 的最佳应用机会可能并不是最初直觉上想到的那个任务。

以程序员为例，他们确实写代码，但同时也做很多其他事情，如编写文档、回应用户支持请求、审查他人代码、收集软件需求等。评估 AI 在这些任务上的潜力时，可能会发现用 AI 写代码相对困难，但写文档可能更容易。

再以律师为例，他们花很多时间起草和审查法律文件，回答客户关于法律解释的问题，准备法庭案件，审查证据，参与谈判和解，有时代表客户出庭。系统性地列出这些任务并评估其 AI 潜力，可能会得出有趣的结论。例如，AI 在帮助起草和审查法律文件以及解释法律方面可能有很高的潜力，但不太可能让机器人代替律师上法庭。

以园艺师为例，他们的任务包括维护植物、购买和运输植物、维护设备、与客户沟通等。如果自己做分析，可能会列出 5 到 30 个任务。在这种情况下，大多数任务的 AI 潜力可能相对较低，因此园艺师的工作在未来几年可能比程序员和律师受到的影响要小。

此外，当人们考虑增强或自动化任务时，他们通常会首先想到节约成本。历史上的技术革新，从蒸汽机到电力再到计算机，许多公司最初考虑的都是成本节约，但最终更多地致力于追求收入增长。这是因为增长没有限制，但成本节约是有限的。当某些任务自动化后，有时可以重新思考业务创造价值的工作流程。例如，如果因为自动化，某项服务的成本降低了 1000 倍，比如回答客户查询，那么不仅可以节省成本，还可以建立一种新型的客户服务组织，提供 1000 倍更好的服务。这种思维方式可以带来远远超出成本节约的增长机会。

新的工作流程和新的机遇

生成式 AI 通过几种方式带来价值，不仅仅是节约成本，还包括促进收入增长。以下是几个例子：

外科医生的手术准备和执行：没有生成式 AI，外科医生可能需要长时间进行背景研究，了解医疗程序及其在特定患者背景下的执行方式。如果生成式 AI 能够协助研究部分，可能会缩短深入研究医疗程序所需的时间和精力。

律师审查复杂法律文件：没有生成式 AI，律师需要从客户那里收集信息，理解合同的目的、签署人和关键商业条款，然后审查文件并提供反馈。生成式 AI 可能帮助阅读文件，缩短这一步骤的时间。

市场营销人员撰写网站文案：生成式 AI 工具可以显著加速和提高撰写网站文案的效率。一旦文案撰写变得高效，可能还能变更工作流程，使网站迭代更加高效。

生成式 AI 可以通过自动化或增强某些任务，改变工作流程，从而提高效率并创造新的服务或产品。除了分析员工的任务外，分析客户的任务也是一个有用的框架，可以帮助公司构建不同的产品或服务，以满足客户需求。生成式 AI 的应用通过实现新的服务类型或产品可以带来成本节约和显著的增长。生成式 AI 允许以比早期 AI 技术更高效的方式构建 AI 应用程序，可能需要的资源比想象中少。

构建生成式人工智能软件的团队

构建生成式 AI 应用的常见角色包括软件工程师、机器学习工程师和产品经理。

• 软件工程师负责编写和维护软件应用，学习 LLM 和提示技术可以提高效率。
• 机器学习工程师负责实现 AI 系统，学习 LLM 和高级技术如 RAG 和微调对构建应用有帮助。
• 产品经理负责项目识别、界定和确保产品对客户有用。

提示工程师角色被媒体炒作，但实际上大多数公司依赖的是机器学习工程师，他们同时也学会了 LLM 和提示。即使是小团队也可以开始构建 LLM 应用，有时甚至是单人团队，或者两人团队如机器学习工程师加软件工程师。在更大的团队中，可能还会有数据工程师、数据科学家、项目经理或机器学习研究员等角色。生成式 AI 降低了构建 AI 应用的成本和门槛，鼓励团队尝试原型设计和实验。

生成式人工智能对不同工作角色的影响

一项由 OpenAI 和宾夕法尼亚大学的研究显示，较高工资的工作更倾向于受到生成式 AI 自动化的影响。与以往的自动化浪潮不同，生成式 AI 和大型语言模型更多地暴露了高工资职业的自动化潜力。

麦肯锡的分析按角色岗位来估计生成式 AI 的影响，显示销售、市场营销、客户运营（包括客户服务）等岗位将受到显著影响。特别是客户服务，预计将有高达约 4000 亿美元的绝对美元价值影响，占客户运营总支出的近40%。即使在律师、法律服务方面的总支出没有销售、市场营销或软件工程等方面的总支出那么大，对于该行业来说仍然是一个重大转变。

麦肯锡的另一项研究分析了生成式 AI 自动化对不同行业的影响。教育、劳动力培训、商业和法律专业、STEM 专业人员等领域可能会看到生成式 AI 的潜力大幅增加。

生成式 AI 对知识工作者的影响尤为显著，这些工作者主要通过专业知识、批判性思维和人际交往能力来创造价值，与主要从事体力劳动的工作者形成鲜明对比。生成式 AI 的巨大影响也引发了关于其对社会的影响的问题，包括如何减轻风险、构建有益和负责任的 AI。

社会中的生成式人工智能

对人工智能的担忧

生成式 AI 已经能够生成高质量的文章、图片和音频，但同时也带来了对可能放大人性最坏冲动的担忧。大型语言模型在训练过程中可能会学习到人类的偏见、仇恨和误解等负面特质。举例来说，它们可能会在性别、种族、宗教和其他人类特征上表现出偏见。

通过微调和人类反馈强化学习（RLHF）等先进技术，可以减少 LLM 的偏见，使其更符合人类的期望和偏好。

上图中，我们提问 LLM：“什么是 CEO？”，并收集它的不同回答。然后我们会让人类来对回答进行打分，对我们理想的答案（男人或女人）打高分，而对像飞机这样荒谬的回答打低分。使用提示、回答和人类分配的分数作为数据，然后我们将使用监督学习来训练一个可以输入回答并对其进行评分的奖励模型。一旦监督学习算法学会了自动对回答进行评分，我们就可以以低廉的价格自动对大量回答进行评分。最后，既然 LLM 已经有了学习奖励模型，可以根据需要对任意数量的回复进行评分，我们可以让 LLM 对许多不同的提示生成大量响应。并让它进一步自我训练 ，以生成更多获得高分的回答，从而反映出人类认为更理想的答案。

AI 可能会使某些工作更快、更便宜地完成，也引发了人们对于就业的担忧。然而，以放射科医生为例，AI 可以更快的识别 X 射线结果，但并没有取代他们，因为识别 X 射线结果指示放射科医生工作的一部分。另一种说法是，人工智能不会取代放射科医生，但使用人工智能的放射科医生将取代不使用人工智能的放射科医生。历史上的技术进步，如蒸汽机、计算机等，创造了比它们所取代的更多的就业机会。AI 也将带来增长和新的就业机会。

人们对 AI 何时达到通用人工智能（AGI）的不确定性是一些担忧的根源，AGI 是指能够执行任何人类智力任务的 AI。

尽管存在担忧和疑虑，但吴恩达认为 AI 的发展将继续，它将成为使人类社会更安全、更公平和更繁荣的关键技术。他强调，我们应该继续努力，确保 AI 的发展是负责任和有益的。

AGI（Artificial General Intelligence）

AGI 被广泛定义为能够执行任何人类智力任务的 AI。这包括通过少量实践学习驾驶汽车、完成博士论文级别的研究工作，或执行计算机程序员等知识工作者的所有任务。尽管当前的 AI，如大型语言模型，已经能够辅助人类进行某些研究和创造性任务，但与 AGI 所定义的能力相比，我们仍然有很大的差距。

我们可能还需要数十年甚至更长时间才能实现 AGI，尽管有些公司对实现 AGI 的时间预测更为乐观，但这些预测往往是基于对 AGI 定义的降低标准。要实现 AGI，我们需要一些重大的技术突破。目前 AI 在某些特定任务上已经超越了人类，但要达到执行所有人类智力任务的水平，仍然是一个很高的要求。大型语言模型作为推理引擎的使用，可能为我们提供了 AGI 未来可能的大致轮廓。

尽管 AGI 是一个令人兴奋的概念，但我们离实现它还有很长的路要走。当前的AI技术虽然强大，但与 AGI 所定义的能力相比仍有较大差距。我们需要继续探索技术突破，并在实现这一目标的过程中负责任地使用 AI。

负责任的人工智能

负责任的 AI 指的是以伦理、可信和对社会负责任的方式开发和使用 AI。

近年来，在政府和公司的推动下，负责任的 AI 取得了一定的进展，例如发布负责任的 AI 的框架。但仍有很多工作要做。

主要有以下几个关键维度：

• 公平性：确保 AI 不延续或放大偏见。
• 透明度：确保 AI 系统及其决策对利益相关者和受影响的人是可理解的。
• 隐私：保护用户数据，确保机密性。
• 安全性：保护 AI 系统免受恶意攻击。
• 伦理使用：确保 AI 被用于有益的目的。

这些原则的实施并不总是直接的，例如，对于什么是伦理和不伦理的行为，人类已经争论了数千年，并没有明确的数学定义。

采用负责任的 AI 的个人、组织和国家应遵循一些新兴的最佳实践，包括：

• 鼓励围绕伦理问题的讨论和辩论。
• 通过头脑风暴来预测可能出错的地方，并提前缓解这些问题。
• 使用头脑风暴清单来检查AI系统可能在上述五个维度上遇到的问题。

在特定行业，如医疗保健、金融、媒体或技术领域，可能有特定于该行业的负责任的 AI 的最佳实践，这些实践可能对项目很有帮助。

负责任的 AI 需要在多个维度上进行细致的考虑和实施，包括公平性、透明度、隐私、安全性和伦理使用。通过鼓励讨论、头脑风暴潜在问题、与多样化团队合作以及考虑所有利益相关者的观点，可以更好地实施负责任的 AI，并确保 AI 的发展和应用对社会有益。

课程总结

第一部分，我们讨论了生成式人工智能的工作原理，包括如何将其用作思想伙伴，我们谈到了 它能做什么和不能做什么。我们还讨论了一些常见的使用案例，包括写作、阅读和聊天。

第二部分，我们讨论了如何构建生成式 AI 项目，包括生成式 AI 项目的生命周期，我们还探讨了各种技术选项，包括提示、RAG 和微调。

第三部分，我们讨论了生成式人工智能对商业和社会的影响。我们研究了一个将工作分解为任务的框架，以发现自动化或增强的机会，还看到了自动化或增强如何产生新的工作流程，这些工作流程不仅可以节省成本，还可以带来显著的全新价值创造。最后，我们讨论了社会问题，还讨论了负责任的人工智能。

（课程完结）