突发！前OpenAl安全主管Jan Leike首次正面阐述离职原因

‍

1、前OpenAl安全主管、超级对齐团队负责人 Jan Leike 在X上公开表达，对于“AI安全”事项的优先级，他与OpenAl高层存在长期分歧，且已严重到无法调和的地步。

他非常用心地写了不少内容，值得花时间看下——

2、安全问题极度重要、必须是第一优先级，但目前可能还没有走上解决这个问题的正轨……

3、Jan Leike最后的表白，无疑让人更加动容：

这里，有2个关键点：

1）“学会感受AGI”，真正在AI最内圈层做事的从业者，我们必须让自己站上“心”这个维度，才可能描绘出那个东西。

引申参考：《直播回放「成长的底层逻辑」》（AI、产品经理强相关，150页PPT，1小时50分钟） 。

2）“我指望你了。世界指望着你。”，这份嘱托之心。

我想说，更多的人在指望你和Ilya，支持你们。

[相关信息]

1、有网友爆料，在离开OpenAl前，员工必须签署一份“离职协议”，如果不承诺“终身不诋毁（OpenAI）”，将失去所有已获得的OpenAl股权——甚至“承认这份协议的存在”都是被禁止的。

据说之前Daniel Kokotailo退出OpenAl时，就放弃了一大笔钱（没签离职协议）。

不知Jan Leike是否也做出了类似的抉择。

2、Sam Altman在X上表示，未来几天，会发表一篇更长的文章，来阐述OpenAl对于“对齐和安全”的规划。

3、还有X用户制作了下面这张图，梳理了从Amodei兄妹离开OpenAI、创办Anthropic以来，所有“跳船”了的安全专家信息——

[hanniman观感]

1、去年Ilya等人逼宫Sam Altman时，马斯克说，Ilya不是一个追逐权势或金钱的人，让他做出这么激进的决策，一定他是看到了什么特别的东西。——具体是什么？马斯克当时问了Ilya，他没说。

如「我的12个“2024 AI 猜想”」中提前预测，Ilya现已正式退出了OpenAI。

2、要了解Ilya等人，更核心的源头，是Hinton。

3月5号的AI日报里，我说，（今早）业内都在讨论Claude 3，但我想先来分享Hinton最新的这次牛津演讲，这些才是最根本的东西；有点长，但真的值得……详见：https://t.zsxq.com/9qLBC

去年6月12号的AI日报里，我重点评注了Hinton在智源大会上的分享，“看了这一篇，我终于明白，为什么Hinton相信超级智能可能比我们想象的更早实现、他担心的到底是什么……” 详见：https://t.zsxq.com/COXvN

去年11月27日的AI日报里（https://t.zsxq.com/idMmt ），hinton的这个推，体现了不同的人，认知视角和价值观的区别。

3、今天Jan Leike的表达，“What he see”，让我又想起了《歌剧魅影》里的那句话：Past the point of no return.

我们正在上演人类历史上，波澜壮阔的篇章。

每个人，都在做出自己的抉择。

我是黄钊hanniman，前腾讯产品经理，12年AI、15年互联网背景，社群“AI产品经理大本营”创建者（已7年）。其AI和人文专业度，可通过我公众号的“往期40篇精选文章”来证明：https://mp.weixin.qq.com/s/umRC9xMtXxBKSNqFKEoVDQ

个人愿望是：通过分享AI相关的内容，能些许有助于人类“在人工智能/机器人时代，更好地生存、生活和生长”。

如果你是AI最内圈层的从业者，如果你内心深处也对“AI对人类的影响”极度重视，欢迎加我微信、长期交流，也许未来我们能做点啥。

（请务必备注：公司-职位）

---------------------

作者：黄钊hanniman，前腾讯PM，前图灵机器人-人才战略官/AI产品经理，12年AI、15年互联网经验；垂直于AI产品经理的第一社群“AI产品经理大本营”（7年）和自媒体“hanniman”（10年）；作品有《黄钊的AI日报》。