Altman回归，霍金害怕的终极人工智能会提前出世吗

《掘金之心公众号：gnu_isnot_unix》前Citadel现自营交易与量化管理，分享热点，主观，量化交易内容。活在当下，终身学习 - 给在职却对未来始终迷茫的人的公众号。借此想告诉不断努力，对生活充满热情的读者们：我们要拥有的是事业而不是职业。

⭐前香港城堡基金研究/交易部，现管理岗；公众号分享原创热点，主观交易，量化投资干货

⭐每周四晚19-22面向公众号社群，固定上海线下绿色德扑社交局

⭐公众号历史内容分类，查看“服务”标签页

⭐有招聘，合作，线下活动，量化培训需求可以直接公众号留言

---

回归

原版推文：Sam Altman重返OpenAI。

---

股权架构

OpenAI是由100%非盈利持股的General Partner，加上它控制的盈利部分Limited Partner子公司组成。毕竟像Wikipedia只靠募资是根本养不起大模型硬件的。盈利部分，OpenAI是由49%微软领投，Linkedin创始人基金，老虎基金，红杉资本等跟投，估值达到860亿美元。

---

管理架构

公司成立的初衷是科学研究不受到资本利益影响，因此董事会的六人是三位高管：

• Sam Altman （首席执行官）

• Greg Brockman （董事长， 同被炒的Sam小弟）

• Ilya Sutskever （首席科学家，此次事件真正主人公）

三位独立董事（独董的定义是：没有股权，和投资人无利益瓜葛，不对公司运营负责，只对公司有利的决策委员会）：

• Adam D'Angelo（美版知乎Quora的CEO）

• Tasha McCauley（前GeoSim CEO，好莱坞明星的老婆）

• Helen Toner（乔治敦大学某研究中心主管）

---

核心矛盾

事情的起因是Ilya Sutskever （首席科学家）召集了三位独立董事把Sam和Greg双双解雇。原因可从某OpenAI员工给Elon Musk的信中发现，Sam Altman对提早实现AGI太过于激进了，没有把人类的利益放在首位。

---

AGI（Artificial General Intelligence）

谈到人类我并不是在刻意升华，先看下斯坦福教授吴恩达是这样解释AGI的。

很多人没有意识到，一个通用人工智能，高度自治的系统，在工作中的能力是可以超过人类的。比如下棋需要黑白交替，目前人工智能算法无法满足P=NP（简单来说是每一步决策都是非确定的，无法被确定性图灵机解决），但结果机器还是战胜了人类。甚至有一步棋当时大家都觉得臭，但人工智能最后却不可思议的赢了比赛。

除了下棋，电竞，在预测蛋白质折叠结构上AlphaFold也取得突破，使得某女博士回国转型。

2023年7月25日，Nature刊登新闻指出ChatGPT已经能突破图灵测试：调研人员无法分清回答问题的是人还是人工智能。

神经网络发展到2025年底时可以拥有人类水平的态势感知，比如知道自己是神经网络。

种种迹象已经开始让著名物理学家霍金的担忧，人工智能总有一天会取代人类，慢慢成为现实。像比尔盖茨，苹果联合创始人Steve Wozniak在内超过1000位大佬曾呼吁应该立即停止训练比GPT-4更强大的AI系统。（Sam Altman并没有签署）

---

收尾

从结果看Sam Altman是站在资本利益一边的。本来计划2023Q4推出GPT5，反而是Ilya Sutskever在今年7月，拉上同事在OpenAI内部成立了一个小部门，叫Superalignment（超级对齐）。目标是制定一套故障安全程序来控制AGI技术，将OpenAI全公司资源的五分之一分配给这个部门。四年内对终极人工智能有足够信心和控制权后，才把AGI技术开放给人类使用。但资本家想赚钱可等不了那么久。

显然科学家在资金面前只是以卵击石。

---

本周线下交流

如果有兴趣更深入交流AIGC与人工智能，比如塔斯马尼亚下限，N/NP千禧年数学题，生产率悖论等等，欢迎参加本周四的线下活动：

---

- END -

欢迎加入我们，探讨每日宏观，交易，人性，线下聚会。1到5群内容完全一样，不用重复加入。

《掘金之心公众号：gnu_isnot_unix》前Citadel现自营交易与量化管理，分享热点，主观，量化交易内容。活在当下，终身学习 - 给在职却对未来始终迷茫的人的公众号。借此想告诉不断努力，对生活充满热情的读者们：我们要拥有的是事业而不是职业。

⭐前香港城堡基金研究/交易部，现管理岗；公众号分享原创热点，主观交易，量化投资干货

⭐每周四晚19-22面向公众号社群，固定上海线下绿色德扑社交局

⭐公众号历史内容分类，查看“服务”标签页

⭐有招聘，合作，线下活动，量化培训需求可以直接公众号留言

【声明】本文中的数据信息均来源于公开资料，文中的观点、结论和建议仅供参考，不构成任何投资建议，投资者据此做出的任何投资决策与作者无关。投资有风险，入市需谨慎。We are not financial advisors. The content on this article is for educational purposes only and merely cite our own personal opinions. In order to make the best financial decision that suits your own needs, you must conduct your own research and seek the advice of a licensed financial advisor if necessary. Know that all investments involve some form of risk and there is no guarantee that you will be successful in making, saving, or investing money; nor is there any guarantee that you won't experience any loss when investing. Always remember to make smart decisions and do your own research!