OpenAI o1 简介

🎯 OpenAI o1 大模型默认自带 COT 过程

• 2024年 9 月 13 日，OpenAI 发布 o1-preview 和 o1-mini

• • 文章1：OpenAI发布o1大模型，突破LLM推理极限，弥补了之前在数学、科学和代码方面的不足
  • 文章2：预训练的 Scaling Law 正在走入死胡同，o1 让更多创业公司重新复活

• o1 就像人类解决复杂问题，一般都是由“快思考”到“慢思考”的过程

• • 之前其余大模型都是快思考的过程

• OpenAI o1 是经过强化学习训练来执行复杂推理任务的新型语言模型。特点就是，o1 在回答之前会思考 —— 它可以在响应用户之前产生一个很长的内部思维链。也就是该模型在作出反应之前，需要像人类一样，花更多时间思考问题。通过训练，学会完善自己的思维过程，尝试不同策略，并认识到自己的错误。

  

• 传统大模型 COT 与o1 COT 原理对比

• • 传统方案：prompt 复杂
  • o1 模型： prompt 简单，但仍需要

• o1 系列模型的主要特点

• • 强大的推理能力，适用于复杂的问题
  • 内部思考过程，产生“推理令牌”
  • 128,000 token 的上下文窗口
  • 适用于科学推理、编程和数学问题

• bate 版本的限制

• • 仅支持文本输入，不支持图像
  • 公不支持系统消息
  • 公不支持流式
  • 不支持工具和函数调用
  • 某些参数固定，如temperature和topp

基于 Python 通过 OpenAI API 实测 o1