Hinton签公开信阻止OpenAI重组，10名前OpenAI员工也参与了-CSDN博客

来源：学术头条

整理：与可

日前，诺奖得主、AI 教父 Geoffrey Hinton 联合 10 名前 OpenAI 员工及其他业内人士联合发表公开信反对 OpenAI 的重组计划，理由非常直接：OpenAI 违背了他们的慈善宗旨，即确保 AGI 的安全开发和造福人类。

他们在公开信中表示，OpenAI 独特的非营利法律结构是防止商业利益凌驾使命的保障，重组将削弱公众利益的保护机制，违反公司章程，构成对其非营利责任的威胁。

他们在公开信中呼吁：要求 OpenAI 解答根本问题。OpenAI 并未公开解释其拟议的重组将如何推进该非营利组织的慈善目标，即安全地开发 AGI，造福人类。它也没有充分解释，为什么 CEO 奥特曼在国会作证时所强调的治理保障措施在 2023 年对 OpenAI 的使命至关重要，却在 2024 年却成为了其使命的障碍。

确保非营利组织保留控制权，从而保护慈善信托和宗旨。要求 OpenAI 停止重组，并保护治理保障措施（包括非营利组织的控制权），OpenAI 领导层一直坚称，这些措施对于“确保其继续专注于其长期使命”至关重要。

公开信签署者名单如下：

公开信链接：https://notforprivategain.org/

为何阻止 OpenAI 重组？

想要理解 OpenAI 的慈善宗旨：非营利控制为何能保护使命，我们可以先理解 OpenAI 所说的“AGI”是什么意思。OpenAI 将 AGI 定义为“一种高度自主的系统，在最具经济价值的工作上表现优于人类”。

而另一方面，OpenAI 警告称，“AGI 还会带来严重的滥用风险、重大事故和社会混乱。失调的超级智能 AGI 可能会对世界造成严重伤害。” 奥特曼和 OpenAI 的高级员工此前与 Hinton 在内的数百人一起签署了一份声明，该声明指出，“缓解 AI 灭绝的风险应该是全球优先事项，优先于其他社会规模的风险，如大流行病和核战争。”

OpenAI 的成立目的即是因为担忧一家营利性公司开发 AGI。为了实现其使命，同时避免成为另一个以利润为导向的谷歌竞争对手或对尖端 AI 没有直接影响力的学术安全实验室，OpenAI 尝试构建 AGI。为了确保他们在构建 AGI 的竞赛中的动力永远不会损害他们的使命，他们注册为非营利组织，并在法律和结构上将构建 AGI 的目标置于使命之下。

2019 年，OpenAI 决定，除了作为一家非营利性非股份公司所能筹集的捐款和债务资本外，还需要筹集股权资本。为了在保持其使命优先地位的同时实现这一目标，OpenAI 成立了一家受控的营利性子公司。通过这家受控子公司“OpenAI-profit”，OpenAI 将向寻求回报的投资者筹集资金。然而，新的营利性实体将是原非营利组织“OpenAI-nonprofit”的子公司，原非营利组织将保留其信托责任，将慈善事业置于首位。

拟议的重组将颠覆 OpenAI 的慈善使命。OpenAI 近期宣布，计划再次进行重组，据称是为了满足投资者简化资本结构的需求。根据这项新的重组方案，OpenAI-profit 将转型为特拉华州的一家公益公司“OpenAI-PBC” 。届时，OpenAI-PBC 将“运营和控制 OpenAI 的运营和业务，而该非营利组织将聘请领导团队和员工，在医疗保健、教育和科学等领域开展慈善事业”。OpenAI-nonprofit 的“对现有营利性组织的重大权益将以 PBC 股份的形式持有” 。

通过取消非营利组织的控制权，拟议的重组将消除 OpenAI 一直坚称对其慈善宗旨至关重要的大部分治理保障措施。而且，任何金额都比控制一家全球领先的 AI 公司更能促进 OpenAI 非营利组织的慈善宗旨。

OpenAI 公开的重组理由是，其优先考虑竞争优势而非慈善宗旨，且未能阐明放弃非营利组织控制权如何与其使命相兼容。尽管 OpenAI 目前的架构可能存在局限性，且竞争定位可能间接支持其使命，但任何拟议的解决方案都必须在不损害核心原则的情况下，针对实际缺陷进行量身定制。

OpenAI 尚未公开证明，其重组对使命的所谓益处如何大于拆除旨在确保 OpenAI 忠于其使命的保障措施所带来的巨大风险。非营利组织可能因失去控制权而一无所获。

如何阻止 OpenAI 重组？

公开信中写道，“我们恳请 Bonta 和 Jennings 总检察长采取以下行动...”即上述提到的“要求回答基本问题”和“确保非营利组织保留控制权，保护慈善信托和宗旨”。

1.OpenAI 需要回答哪些基本问题？

OpenAI 尚未公开回答有关重组的一些基本问题。他们敦促总检察长调查以下问题：

1）董事会决定的理由

取消非营利组织的控制权是推进 OpenAI 慈善目标的最佳途径吗？如果是，为什么？做了哪些分析，又考虑了哪些替代方案？
2023 年 5 月，奥特曼在国会作证时表示，OpenAI 的治理“确保其始终专注于其长期使命”。他当时提到的许多（如果不是全部）保障措施，在拟议的重组方案下都将不复存在。2023 年 5 月至 2024 年 9 月之间发生了什么变化，以至于对 OpenAI 使命至关重要的保障措施反而变成了障碍？
奥特曼曾多次表示，营利性机构会给试图构建 AGI 的组织带来不良激励。现在情况不是这样吗？如果是这样，原因是什么？
投资者压力对重组决策有何影响？董事会是否正式批准了一轮包含以重组为条件的投资？如果是，董事会提供了哪些信息来支持其批准？

2）利益相关董事的参与

哪些现任董事已经参与或计划参与有关拟议重组的决策，哪些（如果有）没有参与，以及各自有哪些潜在的利益冲突？
根据拟议的重组，任何董事是否会获得 OpenAI-PBC 的股权、额外股权或其他直接或间接个人利益？

3）OpenAI 提出的重组计划

OpenAI-PBC 的治理结构是怎样的？谁会加入这个致力于构建 AGI 的实体的董事会？
OpenAI-PBC 需要什么样的架构来保证其行动符合其使命，即确保 AGI 的安全开发并造福全人类？具体来说，他们将采取哪些保障措施来确保其发布的 AI 系统是安全的，并且 AGI 的收益能够惠及全人类，而不是优先惠及投资者？
如果 OpenAI-PBC 采取明显对人类有害的行动，谁能采取补救措施？
OpenAI-PBC 是否会重新承诺章程中的原则，包括承诺停止与接近构建 AGI 的使命一致的组织竞争并为其提供帮助？
OpenAI 的立场是否是，其他前沿 AI 公司的目标与 OpenAI 不一致？OpenAI 的立场是否是，如果任何一家公司抢在 OpenAI 之前开发AGI，人类的利益就会受到威胁？如果是这样，OpenAI 的立场又有何依据？
新投资者的利润是否仍会受到限制？超过上限的利润还会归 OpenAI-nonprofit 所有吗？过去投资者的利润上限会被取消吗？利润上限结构的任何变化将为非营利组织带来什么价值？所有关于超过上限的利润预期值的内部分析都应被要求提供。
如果 OpenAI 构建了 AGI，谁将拥有并控制它？微软对 AGI 的知识产权是否与 OpenAI 现有 AI 系统的知识产权相同？

2.OpenAI 需要保护最初的慈善宗旨

他们呼吁不要让 OpenAI 的重组按计划进行。他们敦促总检察长通过保留 OpenAI 和奥特曼反复声称对其使命至关重要的核心治理保障措施来保护 OpenAI 的慈善宗旨：

OpenAI 的领导层（试图构建 AGI 的实体）应该对使命负有信托责任：确保 AGI 安全开发并造福人类。
除了使命之外的所有目标——包括利润和赢得 AGI 竞赛——都应该服从于使命。
OpenAI 将使命放在首位的义务必须至少由总检察长、董事和对此事有特殊利益的各方依法强制执行。
投资者的利润应该继续受到限制，超过限制的利润应该专门直接用于造福人类。
OpenAI 应该保留其章程中的承诺，停止竞争并开始协助接近构建 AGI 的使命一致的项目。
AGI 本身（如果 OpenAI 创建的话）应该属于非营利组织或类似的实体，其唯一责任是确保 AGI 得到负责任的使用并造福人类。它不应由商业实体或其投资者拥有或控制。

然而，仅仅停止重组是不够的，因为这些治理保障措施显然不足以阻止管理层推动将其移除。他们还请求您确保董事会拥有必要的独立性、资源、信息和意愿，以履行其受托责任，抵制管理层。具体如下：

罢免董事。任何被发现破坏董事会重组决策完整性的董事均应被罢免。
独立性：董事会的大多数成员不应在 OpenAI-profit 中拥有直接或间接的个人利益。
专业知识。董事会应具备必要的专业知识，以了解 OpenAI-profit 何时采取与使命相悖的行动。
资源。董事会应拥有必要的人员和预算，以监督这家拥有数千名员工、估值达 3000 亿美元的组织的运营。
信息。OpenAI 应定期及时向董事会汇报任何可能与其使命相冲突的活动。董事向管理层提出的任何问题都应得到及时、详细的答复。
监督。监督这些变更的实施，或指定一个独立机构来监督其实施。在这些变更最终确定之前，董事会的任何决定都应接受仔细审查。

他们在公开信的最后写道，OpenAI 的成立是为了确保 AGI 的安全发展并造福全人类，其目前的架构在法律上将营利动机置于“确保 AGI 的安全发展，造福全人类”的使命之下。

拟议中的重组将取消必要的保障措施，实际上将这项可能是有史以来最强大的技术的控制权和利润，交给一个有法律义务优先考虑股东回报的营利性实体。

“我们敦促您停止这一重组，恢复适当的治理，并确保 OpenAI 继续对您、公众及其慈善宗旨负责。”

阅读最新前沿科技趋势报告，请访问欧米伽研究所的“未来知识库”

https://wx.zsxq.com/group/454854145828

未来知识库是“欧米伽未来研究所”建立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828 进入。