一文带你了解生成式AI

在过去几个月中，随着生成式自然语言模型ChatGPT在全球范围迅速火爆，生成式AI引起了广泛的关注。生成式AI是可以基于算法、模型、规则等智能生成文本、图片、声音、视频、代码等内容一项技术。生成式AI技术这么强大，它是如何运作的？又会带哪些风险呢？

 

生成式 AI 如何运作？  

生成式 AI 是机器学习的一部分，通过使用神经网络来生成新内容。与其他为执行特定任务而编程的 AI 系统不同，生成式 AI 在大型数据集上运行，并生成新颖、独特的内容。

最流行的生成式 AI 类型之一是生成对抗网络 （GAN）。GAN 由两个神经网络组成：生成器和鉴别器。生成器创建新内容，鉴别器评估内容的真实性。生成式 AI 有可能改变我们应用 AI 的方式，从为训练 AI 模型生成逼真的合成数据，到为客户策划量身定制的内容。随着时间的推移，GAN 生成的内容质量随之提高。如今，GAN 生成的图片和视频与原件几乎没有区别。生成式 AI 工具ChatGPT 和 DALL-E等具有足以撼动现有工作角色的能力。

ChatGPT 是 AI 行业中的一大创新。它是 OpenAI 开发的一种有效的生成式 AI 语言模型，可以快速响应用户命令、生成内容。ChatGPT 基于人类反馈强化学习（RLHF）技术， 可用于客户支持、内容生成、数据分析、虚拟助手、语言翻译等各种应用。在撰写本文时ChatGPT 在 GPT-3.5 语言模型（使用从众多来源收集的大量数据创建的模型）上运行。

DALL-E 是由 OpenAI 开发的 AI 模型，它结合了先进的深度学习技术，例如 transformer 网络和 GAN。这种创新技术可以理解和解释自然语言输入，甚至根据文本描述生成图像。ChatGPT 和 DALL-E 在现实场景中的应用，极大地提高了效率、赋予了更多创造力。微软和谷歌等大公司已将 ChatGPT 纳入其客户支持系统，为客户提供即时帮助。

生成式 AI存在的风险

技术是一把双刃剑，生成式 AI 也有一些风险，正是因为它拥有接收外界并学习的特性，在不停优化的同时也不可避免地会被一些恶意人士“教坏”，例如，生成式 AI 的发展使得 AI 造假之风却愈演愈烈，存在知识产权侵权和内容版权问题；AI 生成的内容的质量和真实性；新区块链运行时生成中的架构障碍；基于敏感数据的内容的隐私问题；生成式 AI 的恶意运行；恶意的算法数据输出等风险。

那么，针对 AI 存在的诸多风险，我们在应用时如何应对呢？

应对策略：

使用基于 AI 的内容审核工具，例如 Google 的 Perspective API 或 Two Hat 的 Community Sift；联邦学习、同态加密和匿名化等数据隐私保护技术；使用用于训练 ImageNet、MNIST 等可信度生成 AI 算法的代表性数据集；使用基于 AI 的欺诈检测工具，例如 Fraud.Net、Kount、NICE Actimize；AI 内容分析指标，如公平性和问责性指标；制定在 Web3 中使用生成式 AI 的标准。

总结

生成式AI的浪潮才刚刚开始，其未来的形态无法被预测，但可以肯定的是，ChatGPT、DALL-E和等生成式AI工具将在未来各个行业中扮演重要的角色，改变原有的工作角色，颠覆行业的未来。虽然这些工具的出现会对一些工作产生影响，但它们也将创造新的工作机会和创新发展方向。

相关素材整理于微信公众号 NET中文社区