![7e9fa64f85f9ccc32328118075ea6600.jpeg](https://i-blog.csdnimg.cn/blog_migrate/c350f1cecb556e0bec8eec6b1bf8bc2a.jpeg)
OpenAI混乱结束,Sam Altman重返CEO职位。五天风波或深刻改变公司和AI行业。上周五,Altman被董事会撤职,员工抗议后于周二重返,现有董事会多数成员已离职。
然而,独立存在的董事会秉持“为人类福祉”使命对公司独特性至关重要。Altman在2023年巡回中警告有关他构建技术的危险性,将OpenAI盈利组织嵌套在非盈利结构中,作为强AI开发的防火墙。无论Altman如何运用数十亿微软资金,董事会有权监督他,违背人类利益可罢免。Altman在六月表示:“董事会有权解雇我,这很重要。”
牛津大学哲学高级研究员、AI伦理研究员Toby Ord表示:“结果证明,他们无法解雇Altman,而这是不利的。”
OpenAI领导层混乱,新董事会重组,新增科技界权威及前美财政部长拉里·萨默斯。两位“有效利他主义”女性董事被踢出,深化对治理人工智能分歧。对于担忧人工智能摧毁人类、认为技术加速乌托邦的超人类主义者、相信自由市场资本主义者、主张通过监管控制潜在危害的科技巨头,看法不同。Ord表示:“这是注定的冲突过程。”他指出,如果OpenAI的治理董事会无法实际影响其行为,那么揭示其无力可能是一件好事。
事件引发各方猜测,或牵涉AI未知风险
OpenAI董事会罢免Altman的原因成谜。董事会表示Altman“未能坦诚,妨碍了其行使职责的能力。”公司内部澄清解雇并非回应不当行为。临时首席执行官Emmett Shear承诺调查原因,留下了Altman花费太多时间在副业上或对Microsoft顺从的传言。一些阴谋论声称OpenAI已创造人工通用智能,董事会切断了其开关。
“我可以百分之百确定我们没有达到人工通用智能(AGI),”伦敦帝国理工学院商学院AI和创新实践教授David Shrier说。“我也可以百分之百确定治理层面发生了巨大的失误。”
![017c01810ddbed80c9f9630987ecfeaa.jpeg](https://i-blog.csdnimg.cn/blog_migrate/a675ac291d51e7b4e334a27da8a1e6aa.jpeg)
Shrier指出,OpenAI失败不仅源于董事会的非盈利与盈利部门的紧张关系,也因公司规模急剧增长。他强调ChatGPT六周内用户增至一亿,远快于全球网络七年达到相似规模。他认为董事会无法应对公司庞大规模和人工智能技术风险,强调创业公司需要建立成熟、强大的治理机制。
监管法规或重塑行业未来
全球监管机构将密切关注OpenAI。美国FTC投票增强对AI服务公司的监管权,欧盟在AI法案谈判中分歧,争议是否监管基础模型制造商如OpenAI的GPT-4。法、德、意支持基础模型“强制性自律”,认为公司可自我控制。法德分别是基础模型公司Mistral和Aleph Alpha所在地。CEO Mensch认为这就像因为C语言可用于编制恶意软件而要监管C语言一样“很荒谬”。
![fa21f7b22e761d0e33b848b65b4ec3c9.jpeg](https://i-blog.csdnimg.cn/blog_migrate/00d8f6eceb25742fae17abeed1dff80e.jpeg)
过去几天事件表明自我监管无法保护社会。欧洲议会领导者Benifei表示,Altman的戏剧表明需要法规,揭示企业治理不可靠。OpenAI治理失败或加强对更强大公共监督的呼吁,未来社会的欧洲AI治理主任Moës认为政府是唯一能对投资者说不的力量。OpenAI的危机是对道德资本主义的警钟,非营利董事会和营利管理层结合的公司治理结构不奏效,需要政府行动。
微软支持下,商业化迈出关键一步
Altman募资数十亿美元与科技巨头合作推动更先进人工智能。然而,他承认未完全了解其发展方向,与其对毁灭性事件的担忧不协调。三名独立董事因与有效利他主义有联系而罢免,引起支持者不满。Altman多次要求政府监管,担忧人工智能领域可能对世界造成伤害。卡内基梅隆大学教授Ghani认为,谈论“监管我们,否则毁掉世界”是胡说八道,这已经偏离真正风险。
尽管Altman最终复职,但OpenAI及其他人工智能初创公司似乎发生了变化。ChatGPT的制造商及竞争对手更显商业化,投资回报成为重要动机。OpenAI称新董事会组成为临时,可能加入更多成员。分析师预测公司已接近微软,后者承诺提供130亿美元。尽管Altman称复职为回到以前状态,但OpenAI可能更直接代表微软竞争。Meta和亚马逊也增加了对人工智能的投资。
“因此,现在这不仅仅是这些AI实验室之间的竞赛,那些创立它们的人,我认为,可能真的关心他们所完成的历史性工作,”Ord表示。“现在演变成了AI实验室背后一些世界巨头公司之间的竞赛,这改变了它的性质。我认为这一方面是相当危险的。”