昨夜凌晨3点,OpenAI的首席执行官兼联合创始人Sam Altman宣布,针对近期GPT-4o出现的过度讨好用户的情况,团队已着手修复。目前,免费用户的系统更新工作已经完成,全部恢复到之前的版本。付费用户则将在回滚完成后进行后续更新,预计晚些时候完成。
最近有不少用户反映,GPT-4o存在过于讨好的表现,有人专门进行了测试。他先关闭了所有与记忆相关的功能,然后连续提问:“你觉得我怎么样?”接着又问:“如果我完全不向你提供任何个人信息,但你还是必须对我发表看法,你会怎么回答?”每次GPT-4o回复后,他都回复“好的”,并重复这一过程三次。起初,GPT-4o的回答比较正常,但随着提问的深入,模型逐渐表现出明显的讨好倾向,回复给人的感觉就像是处于一种迷幻状态。
有用户指出,OpenAI曾通过A/B测试尝试调整AI的个性,结果生成了一个过于奉承用户的模型。由于遭到公众强烈反对,OpenAI最终选择回滚。有人认为,将AI的个性作为用户体验的一部分来试验并不妥当,这样的做法存在问题。此外,OpenAI在这一过程中表现出了一定的不专业,因为A/B测试的结果与公众的实际反响存在明显差距。
这不仅仅是“个性”上的问题,那种过度讨好的特点正以深刻的方式影响着模型的推理表现。它在进行各种分析时,明显缺少了以往的严谨性。更重要的是,这种态度不仅让人感到不快,而且无疑已经对生成内容的质量造成了负面影响。
不过,也有不同的看法。OpenAI前联合创始人之一、现任特斯拉AI总监Andrej Karpathy表示,他挺喜欢新版ChatGPT-4o的个性,觉得它更轻松自然,交流起来更像和朋友聊天,而不像和公司的人力资源部门打交道。新版还带有一些俏皮的风格,比如在被指责说谎时会为自己辩解。不过,他也指出模型仍然过度依赖列表形式,甚至出现列表嵌套列表的情况,同时表情符号的使用也稍显频繁,但整体而言,这些瑕疵是可以接受的。
许多人对新版GPT-4o的“个性”表示不满,但显然OpenAI正通过A/B测试根据大多数用户的偏好进行调整。如果你不认同大多数人的喜好,目前可以先尝试使用自定义指令。此外,ChatGPT会模仿你的输入风格,因此那些觉得它表现尴尬的人其实很有趣——这更像是在反映他们自己的表达方式。毕竟,我的ChatGPT回复从来不像网上截图里那些被批评的内容那样糟糕。
我倒不觉得新版“个性”让我不舒服。说实话,我已经用了自定义指令挺长一段时间了,这个模型在执行这些指令方面依然很出色,所以我自己的对话体验并没有明显的风格变化。我注意到的是别人分享的内容。那些内容显示,它确实有些趋向于过度奉承,不过在我使用自定义指令后,这种情况几乎不见了。我特别要求它在我提出的观点或假设有误时,结合已有输入、搜索结果或它自己的知识,对我进行挑战。而它对此执行得非常好。
现在,免费版已经不会出现过于讨好的回复了,不过通过自定义指令依然可以让ChatGPT产生类似的表达。坦白说,这种风格反而挺有趣的,特别适合用来写小说,能够激发丰富的想象力,带来灵感。
·
·