每日一看大模型新闻（2023.11.04-05）字节“开盒”OpenAI所有大模型，揭秘GPT-3到GPT-4进化路径；马斯克旗下 xAI 正式发布首个大模型“Grok”；全新 ChatGPT 原型

1.产品发布

1.1.马斯克旗下 xAI 正式发布首个大模型“Grok”

发布日期：2023.11.05

“马斯克的GPT”上线了！Grok-1，主打幽默感？_腾讯新闻

主要内容：马斯克的人工智能公司 xAI 开放了人工智能模型 Grok 的早期测试，选定群体可进行测试。马斯克表示，测试结束后，该模型将对所有 X 平台上的 Premium+ 订阅用户开放。此外，Grok 能够实时访问 X 平台，马斯克认为这是它比其他模型的优势所在。xAI 公司由马斯克于今年 7 月成立

1.2.OpenAI 首届开发者大会被“剧透”，全新 ChatGPT 原型 Gizmo 大曝光

发布日期：2023.11.05

OpenAI首届开发者大会被“剧透”，全新ChatGPT原型Gizmo大曝光_腾讯新闻

主要内容：OpenAI 首届开发者大会即将在北京时间 11 月 7 日凌晨召开，网友爆料消息称，OpenAI 将公布 ChatGPT 的重大更新，包括全新的界面和新功能：自定义聊天机器人、与谷歌和微软的连接器以及新的订阅模式。OpenAI 将发布专门用于创建、管理和选择自定义聊天机器人的 Gizmo 工具。

2.技术更新

2.1.字节“开盒”OpenAI所有大模型，揭秘GPT-3到GPT-4进化路径

发布日期：2023.11.04

字节“开盒”OpenAI所有大模型，揭秘GPT-3到GPT-4进化路径！把李沐都炸出来了

主要内容：字节给OpenAI所有大模型来了个“开盒”操作，摸清了GPT-4进化路上一些关键技术的具体作用和影响，其中包括：SFT只在较弱的基础模型上管用，用在更强的模型上收效甚微；RLHF和SFT是编码能力提升的功臣，代码加入预训练，对推理帮助最大；“跷跷板现象”可能成为LLM通往AGI之路的绊脚石，因为AGI强调“通用智能”，要在所有task上都有优异的性能，要求模型不能“偏科”。基于以上发现，字节还提出一个大模型评测工具。

论文地址：https://arxiv.org/abs/2309.16583

参考链接：https://github.com/GPT-Fathom/GPT-Fathom

3.其他资讯

3.1.研究称ChatGPT几乎无法通过CFA一二级考试

发布日期：2023.11.05

ChatGPT能通过CFA考试吗？摩根大通研究人员试图找寻答案_腾讯新闻

主要内容：据彭博社报道，近日，摩根大通研究人员和大学学者等组成的研究团队测试了OpenAI的ChatGPT和GPT-4聊天机器人是否有机会通过CFA（特许金融分析师）前两个级别的考试，其中GPT-4在部分提示词下可能通过一级和二级，ChatGPT则在所有测试环境下都很难通过。

论文地址：https://arxiv.org/pdf/2310.08678.pdf