OpenAI新模型「草莓」曝光

OpenAI新模型「草莓」曝光

OpenAI神秘项目“草莓”被曝光！内部人士曾警告：可能威胁全人类......

基本信息

• 名称：草莓（Strawberry）
• 前身：Q*

模型特点

• 推理能力：接近人类水平
• 任务执行：长任务规划，包括提前进行规划，自主可靠地在互联网上导航
• 训练方式：超大规模数据集上完成预训练，采用特殊方法

技术细节

• 保密性：工作机制在内部被严格保密
• 推理方法：与斯坦福2022年提出的方法相似
• 后训练：包括微调、人类反馈强化学习（RLHF）等

业界反应

• 马斯克关注：对AI潜在风险表示关注
• OpenAI科学家Noam Brown：对OpenAI在重大研究方向上的持续投入表示感慨

AI进展分级定义（L1-L5）

• L1：Chatbots，具备对话能力
• L2：Reasoners，人类级问题解决能力
• L3：Agents，可以代表用户采取行动
• L4：Innovators，AI可以辅助发明创造
• L5：Organizations，AI可以像管理者完成工作

image

相关链接

1. OpenAI Working on New Reasoning Technology Under Code Name 'Strawberry' - Reuters
2. Exclusive: OpenAI Working on New Reasoning - Reddit
3. Self-Taught Reasoner (STaR) - arXiv
4. Here's How OpenAI Will Determine How Powerful Its AI Systems Are - The Verge

本文由 mdnice 多平台发布