一天搞定 6 个月工作！OpenAI 曝光 GPT-4 新功能「内容审核」

最新推荐文章于 2025-02-07 08:30:00 发布

CSDN资讯

最新推荐文章于 2025-02-07 08:30:00 发布

阅读量5k

点赞数 9

本文链接：https://blog.csdn.net/csdnnews/article/details/132331777

版权

整理 | 朱珂欣

出品 | CSDN程序人生（ID：coder_life）

GPT- 4 到底有多强？

问世以来，代码编写、数据分析、图表生成、执行数学运算、生成视频、分析股票市场……都不在话下，让无数网友感慨：这是要“逆天”了！

如今， GPT-4 的新功能直逼「内容审核」，可以帮助企业一天完成 6 个月工作量。

与传统方法相比，GPT-4 内容审核的优势

众所周知，传统内容审核在现阶段面临多种挑战。

为此，OpenAI 表示， GPT-4 目前正在测试内容审核功能，它被用于制定和完善内容政策、标记内容和制定决策。

任何拥有 OpenAI API 访问权限的人都可以创建自己的 AI 辅助审核系统。

一方面，可以执行内容审核任务，加速处理内容审核等繁重任务，提高社交媒体公司的工作效率。

另一方面，还能使在线平台能够更快制定新内容审核规则，并完善现有规则。

OpenAI 官方称：“内容审核过程本身就很缓慢，GPT-4 的新功能可以帮助审核过程能从 6 个月缩短到几个小时。”

目前，最新的 GPT-4 相较于传统的内容审核方法，存在以下优势：

如何利用 GPT-4 进行内容审核？

事实上，由 AI 驱动的审核工具并非什么新鲜事，Meta、YouTube 和 TikTok 等平台已经利用算法来控制有害和非法内容。

据 The Verge 往期报道，2020 年时，Meta（前 Facebook）就明确表示希望 AI 在平台上承担更多的审核职责。

其审核原理为：被认为违反公司规则的帖子（包括从垃圾邮件、含仇恨言的内容）会被用户或机器学习过滤器标记。随后，一些明确的案例会自动处理（删除帖子、阻止帐户），而其余案例则进入队列供人工审核员审核。

由此可见， OpenAI 的这枪「内容审核」并非首发。

据官方消息，这项由 GPT-4 领衔的内容审核工作，目前涉及多个工作流程。

就目前的情况而言， GPT-4 对于某些缺乏开发自己的内容审核系统资源的小公司，无疑是一个可行的选择。

历史里程碑 or 巨大的挑战？

当然，GPT-4 也并非完美。新功能虽然前景广阔，但仍然存在局限性。

在内部测试中，OpenAI 将 GPT-4 与人类内容审核团队进行了比较。

结果显示，现阶段 GPT-4 表现优于接受过“轻度训练”的审核人员，但准确性不如“经验丰富、训练有素”的审核人员。

值得关注还有 —— 语言模型的判断很容易受到训练期间引入模型的不良偏差的影响。特别是误导性、错误性和攻击性内容（不一定是非法的）的灰色区域给自动化系统带来了巨大的挑战。

与任何 AI 应用程序一样，结果和输出需要审核人员参与其中来仔细监控、验证和完善。

为此，OpenAI 也强调，审核的过程不应该完全自动化。

事物发展总是利弊共存，在 OpenAI 曝光的 GPT-4 新功能内容审核后，也引发了许多业界人士的积极讨论。

OpenAI 的产品政策经理 Andrea Vallone 认为：“在这种情况下，审核人员可以更侧重在对可能有内容违规的极端案例如何做评判，以及怎样完善内容的政策。”此外，他也强调称：“我始终认为，人类始终参与其中是很重要的。”
OpenAI 安全系统负责人 Lilian Weng 在接受 Semafor 时表示：“这为如何利用 AI 造福社会、解决现实世界的问题，向前迈出了非常好的一步。”
外媒 Semafor 记者 Reed Albergotti 坦言：“人类实际上不太擅长内容审核，因为即使人能够记住每条规则，也会不断有内容陷入灰色区域，无法给出明确的答案。GPT-4 虽然不是完美的，但避免了人们在工作中整天查看令人不安的内容。”

对此，你怎么看？

参考链接：

https://openai.com/blog/using-gpt-4-for-content-moderation

https://www.theverge.com/2023/8/15/23833406/openai-gpt-4-content-moderation-ai-meta

https://www.semafor.com/article/08/15/2023/can-chatgpt-become-a-content-moderator#room-for-disagreement