前OpenAI员工担忧OpenAI重组

  每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同行！ 订阅：https://rengongzhineng.io/

前OpenAI员工与多位诺贝尔奖得主、法律学者及公民社会组织于上周联名致信加州和特拉华州的总检察长，呼吁暂停OpenAI的重组计划，理由是担忧该重组将削弱安全监管与公益导向。信件已于本周二递交至OpenAI董事会。

信中指出，将OpenAI从非营利机构转型为营利实体的举措将“颠覆其公益使命”，并“剥夺非营利组织的控制权，消除关键治理机制”。该团体强调，“任何出售价格都无法补偿对控制权的丧失”。

OpenAI最初于2015年成立为一家非营利人工智能研究实验室，近年来逐渐推进商业化，推出了现象级的ChatGPT聊天机器人。尽管目前仍由一个非营利母机构监管，该公司于去年宣布计划转型为营利性公司，并将非营利机构作为独立分支保留。然而此举必须获得其主要资助者微软和加州总检察长的批准，才可正式实施。

若转型成功，OpenAI将摆脱部分监管限制，更有力地与微软、谷歌、亚马逊及埃隆·马斯克的xAI等竞争对手展开较量。此决定已引发OpenAI内部及人工智能界广泛争议，不少高管因理念分歧离职，另立门户。

曾在2018至2020年间任职于OpenAI的尼桑·斯蒂恩农在声明中表示：“OpenAI未来可能构建出危及全人类的技术。正因为它受非营利组织控制，才有义务服务于人类。这种义务绝不应被放弃。”

另一名前员工雅各布·希尔顿（2018至2023年在OpenAI任职）也指出，公司高层曾反复强调OpenAI“首要的信托责任是服务于人类”，并声称这一承诺写入公司章程，并通过其公司架构得以执行。“而现在，他们却提议放弃这一基本承诺。”

对此，OpenAI一位发言人回应称，转型为营利性实体后，公司架构将与Anthropic和xAI等竞争对手相似。他指出，“董事会已明确表示，非营利母机构将得到强化，所有结构调整都旨在确保AI造福公众。”

根据OpenAI的公司章程，其成立宗旨为“确保通用人工智能（AGI）惠及全人类”，而非“谋取个人私利”。AGI指的是在广泛任务上能等同或超越人类智能的AI技术，是OpenAI及其竞争者积极追求的目标。

对OpenAI的压力也与其近期高达3000亿美元的估值有关，该估值是在软银主导的一轮400亿美元融资中达成的。若该公司未在12月31日前完成转型为营利实体，此融资可能减少高达100亿美元。

此外，由于与埃隆·马斯克的法律纠纷，OpenAI也面临诸多挑战。马斯克曾为OpenAI联合创始人，现已成为其转型计划的主要反对者。本月初，12名前员工在支持马斯克诉讼的背景下，申请法院允许他们表达对重组计划的担忧。

诺贝尔奖得主、计算机科学家杰弗里·辛顿也对此表达看法。他强调，自己参与的此次联名信并不与马斯克的诉讼有关。他表示：“本人支持OpenAI确保AGI造福全人类的使命，并希望他们执行这一使命，而非使投资者致富。很高兴看到有行动在不依赖马斯克的前提下，试图让OpenAI坚守其初衷。”

该团体在信中重申，对AGI发展和治理的非营利控制至关重要。若失去这种控制，“将违反非营利机构对其受益人的特殊信托责任”，并危及其公益使命。

OpenAI曾于2023年成立“超级对齐”（Superalignment）团队，专注于引导和控制远超人类智能的AI系统，并承诺在四年内投入20%的计算资源支持该团队。然而，该团队在创始人伊利亚·苏茨凯弗与负责人简·莱克宣布离职后解散。

人工智能政策中心执行主任贾森·格林-洛在声明中指出，即使在现有结构下，OpenAI仍未履行其对安全研究的资源承诺。“如果这家公司在尚受非营利机构监督的情况下都如此行事，那一旦彻底转为追求利润的实体，其行为将更加令人忧虑。这种公司绝不能被赋予更少的社会责任，因为风险实在太高。”