OpenAI 宣布将 GPT-4 引入内容审核系统，该系统有哪些亮点？

在数字化时代背景下，内容安全议题日益凸显其重要性。于9月26日，OpenAI正式揭晓了其最新研发的多模态内容审核模型——“omni-moderation-latest”，该模型依托前沿的GPT-4o技术，实现了对有害文本及图像的高效精准识别。此番更新，无疑为开发者们装备了更为强大的武器，助力他们构建起坚不可摧的审核防线。

新型模型的独到之处，在于其能够同时处理文本与图像输入，且在应对非英语内容时展现出更为卓越的性能。相较于以往版本，“omni-moderation-latest”不仅在识别精度上实现了飞跃，更拓宽了有害内容的检测范围，涵盖了暴力、自残、性内容等多个敏感领域，为用户营造了一个更为安全可靠的交流环境。

自2022年OpenAI推出内容审核API（即Moderation API）以来，随着人工智能应用的广泛普及与深入生产环节，自动化审核系统所承载的内容量与类型均呈现爆发式增长。当前，包括Grammarly、ElevenLabs在内的众多企业，均已采纳该API作为保障用户安全、抵御不良内容的坚固盾牌。

“omni-moderation-latest”模型的卓越之处，具体体现在以下几个维度：

• 多模态有害内容分类：该模型能够综合评估文本与图像的组合，精准识别其中潜藏的暴力、自残及性相关风险。
• 文本审核新增类别：新增了与违法及暴力相关的两类文本审核，进一步强化了审核体系的全面性。
• 非英语内容检测精度提升：在40种语言的测试中，其准确率实现了42%的显著提升，尤其在低资源语言上的表现更是令人瞩目。

对于开发者而言，这款全新的审核模型依旧保持了免费开放的原则，内容审核API的接入亦十分便捷。OpenAI寄望于此次升级，能够激励更多开发者携手并进，共同利用最新的科研成果与安全系统，为用户打造一个更加友善、安全的在线世界。

推荐一个可以订阅国外的ChatGPT4和所有AI产品的平台：WildCard