“宪法人工智能” 的技术

“宪法人工智能”技术是一种为人工智能系统提供明确行为规范与价值观导向的创新方法。Anthropic 公司的 Claude 聊天机器人采用了“宪法人工智能”技术，该技术旨在解决对 AI 系统的透明度、安全性和决策制定的担忧，而不依赖于人类的反馈来评估响应。

例如，在 2024 年 11 月 22 日，全球电商巨头亚马逊宣布与人工智能初创公司 Anthropic 进一步深化合作，将向 Anthropic 追加 40 亿美元投资。Anthropic 的旗舰产品——人工智能大模型 Claude，基于“宪法式人工智能”技术运行。这种技术通过预定义的原则来指导模型输出，旨在避免产生错误或具有歧视性的内容。

在 Claude3 的训练中，“宪法人工智能”技术增强了其安全、可信、可靠。Claude3 系列模型在视觉能力、准确性、长文本输入和安全方面都有进步。在准确性上，Anthropic 使用大量复杂的事实问题针对当前模型中已知的弱点进行优化，相应地，Claude3 模型表示它不知道答案，而不是提供不正确的信息。其中最强的版本 Claude 3 Opus 在具有挑战性的开放式问题上的准确性比 Claude 2.1 提高了一倍，同时也减少了错误答案的水平。

此外，在 2023 年 11 月 29 日，广州大学特色微专业“数字法学”顺利开班，其中课程包含了“人工智能与宪法原理”，体现了对人工智能与宪法关系的关注。“宪法人工智能”技术不仅为人工智能的发展提供了新的方向，也引发了各界对人工智能伦理、法律责任等问题的深入思考。随着人工智能技术的不断发展，“宪法人工智能”技术有望在规范 AI 系统、提升其可靠性与透明度等方面发挥更大的作用。

“宪法人工智能”技术如何指导模型输出

“宪法人工智能”（Constitutional AI）技术通过预定义的原则来指导模型输出。Anthropic 公司为 Claude 聊天机器