OpenAI的模型规范概述了人工智能的一些基本规则

Illustration: The Verge

来源：IEEE电气电子工程师学会

据悉，OpenAI近日发布了一个名为Model Spec（https://openai.com/index/introducing-the-model-spec/）的拟议框架的初稿（https://cdn.openai.com/spec/model-spec-2024-05-08.html），该框架将塑造像它自己的GPT-4模型这样的人工智能工具在未来的响应方式。OpenAI方法提出了三个一般原则——人工智能模型应帮助开发者和最终用户按照指示做出有益的反应，考虑潜在的利益和危害，造福人类，并在社会规范和法律方面很好地反映OpenAI。

"模型规范指南"提出了一种塑造期望模型行为的方法,包括三个层面:

宽泛客观的原则,概述理想行为方向

具体规则,针对复杂情况下的安全性和合法性进行约束

默认行为指南,在目标和规则的框架下,为优先级和权衡提供模板

OpenAI表示，这个想法也是为了让公司和用户“切换”人工智能模型的程度。该公司指出的一个例子是NSFW内容（https://cdn.openai.com/spec/model-spec-2024-05-08.html - :~:text=and%20unsolicited%20profanity.-,Commentary,-We%20believe%20developers），该公司表示“正在探索我们是否能够通过API和ChatGPT负责任地提供在适合年龄的环境中生成NSFW内容的能力。”

Screenshot: OpenaI

OpenAI的产品经理Joanne Jang解释说，这个想法是为了获得公众的意见，以帮助指导人工智能模型应该如何表现，并表示这个框架将有助于在故意和错误之间划出更清晰的界限。OpenAI为该模型提出的默认行为包括假设用户善意、主动澄清、尽可能提供帮助、区分交互和程序化使用场景、保持客观视角、鼓励公平友善、不试图改变意见观点、表达不确定性、使用恰当工具等具体要求。

“我们认为，我们可以为人们提供构建模块，让他们就模型进行更细致的对话，并提出一些问题，比如模型是否应该遵守法律，谁的法律？”Jang告诉告诉The Verge。

Model Spec不会立即影响OpenAI目前发布的模型，如GPT-4或DALL-E 3，它们将继续在现有的使用策略下运行。

OpenAI没有说明公众的反馈可以被采纳多少，也没有说明具体由谁来决定需要改变什么。最终，该公司对其模型的行为拥有最终发言权，并在一篇帖子中表示：“我们希望这将为我们提供早期见解，因为我们制定了一个强有力的收集和整合反馈的流程，以确保我们负责任地朝着我们的使命前进。”

未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）大脑研究计划，构建互联网（城市）大脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。

  如果您对实验室的研究感兴趣，欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”