1、前OpenAl安全主管、超级对齐团队负责人 Jan Leike 在X上公开表达,对于“AI安全”事项的优先级,他与OpenAl高层存在长期分歧,且已严重到无法调和的地步。
他非常用心地写了不少内容,值得花时间看下——
2、安全问题极度重要、必须是第一优先级,但目前可能还没有走上解决这个问题的正轨……
3、Jan Leike最后的表白,无疑让人更加动容:
这里,有2个关键点:
1)“学会感受AGI”,真正在AI最内圈层做事的从业者,我们必须让自己站上“心”这个维度,才可能描绘出那个东西。
引申参考:《直播回放「成长的底层逻辑」》(AI、产品经理强相关,150页PPT,1小时50分钟) 。
2)“我指望你了。世界指望着你。”,这份嘱托之心。
我想说,更多的人在指望你和Ilya,支持你们。
[相关信息]
1、有网友爆料,在离开OpenAl前,员工必须签署一份“离职协议”,如果不承诺“终身不诋毁(OpenAI)”,将失去所有已获得的OpenAl股权——甚至“承认这份协议的存在”都是被禁止的。
据说之前Daniel Kokotailo退出OpenAl时,就放弃了一大笔钱(没签离职协议)。
不知Jan Leike是否也做出了类似的抉择。
2、Sam Altman在X上表示,未来几天,会发表一篇更长的文章,来阐述OpenAl对于“对齐和安全”的规划。
3、还有X用户制作了下面这张图,梳理了从Amodei兄妹离开OpenAI、创办Anthropic以来,所有“跳船”了的安全专家信息——
[hanniman观感]
1、去年Ilya等人逼宫Sam Altman时,马斯克说,Ilya不是一个追逐权势或金钱的人,让他做出这么激进的决策,一定他是看到了什么特别的东西。——具体是什么?马斯克当时问了Ilya,他没说。
如「我的12个“2024 AI 猜想”」中提前预测,Ilya现已正式退出了OpenAI。
2、要了解Ilya等人,更核心的源头,是Hinton。
3月5号的AI日报里,我说,(今早)业内都在讨论Claude 3,但我想先来分享Hinton最新的这次牛津演讲,这些才是最根本的东西;有点长,但真的值得……详见:https://t.zsxq.com/9qLBC
去年6月12号的AI日报里,我重点评注了Hinton在智源大会上的分享,“看了这一篇,我终于明白,为什么Hinton相信超级智能可能比我们想象的更早实现、他担心的到底是什么……” 详见:https://t.zsxq.com/COXvN
去年11月27日的AI日报里(https://t.zsxq.com/idMmt ),hinton的这个推,体现了不同的人,认知视角和价值观的区别。
3、今天Jan Leike的表达,“What he see”,让我又想起了《歌剧魅影》里的那句话:Past the point of no return.
我们正在上演人类历史上,波澜壮阔的篇章。
每个人,都在做出自己的抉择。
我是黄钊hanniman,前腾讯产品经理,12年AI、15年互联网背景,社群“AI产品经理大本营”创建者(已7年)。其AI和人文专业度,可通过我公众号的“往期40篇精选文章”来证明:https://mp.weixin.qq.com/s/umRC9xMtXxBKSNqFKEoVDQ
个人愿望是:通过分享AI相关的内容,能些许有助于人类“在人工智能/机器人时代,更好地生存、生活和生长”。
如果你是AI最内圈层的从业者,如果你内心深处也对“AI对人类的影响”极度重视,欢迎加我微信、长期交流,也许未来我们能做点啥。
(请务必备注:公司-职位)
---------------------
作者:黄钊hanniman,前腾讯PM,前图灵机器人-人才战略官/AI产品经理,12年AI、15年互联网经验;垂直于AI产品经理的第一社群“AI产品经理大本营”(7年)和自媒体“hanniman”(10年);作品有《黄钊的AI日报》。