《为什么伟大不能被计划》&《共同智能》

如果我们知道我们在做什么，那么这就不叫科学研究了。

阿尔伯特.爱因斯坦

清明假期读了两本很不错的书。第一本是《为什么伟大不能被计划》，作者是OpenAI的两位科学家，核心观点是：真正的创新往往源于无意中的发现和对新奇事物的探索，而非刻意追求既定目标。 

书中举了很多例子来支撑这一观点，如： 

• 比尔·盖茨迎合极客打游戏的需求普及了个人电脑。

• 微波技术本来是用于驱动雷达磁控管的一个部件，意外成就了微波炉。

• 第一台电子计算机用的是电子管，但电子管根本就不是为了计算机而发明的。

• YouTube最初是一个视频约会网站。

• 照片分享服务Flickr（网络相簿）最初只是一个大型网络社交游戏中附带的一个小功能。

• 发明自行车的人根本不会想到这会导致莱特兄弟发明飞机。

作为OpenAI的科学家，提出这样的观点主要并不是因为上面这些例子（否则就变成小作文水平了），而是有扎实的理论基础：新奇性搜索算法。

一般人工智能的算法都有目标函数或代价函数，优化的路径是不断追求该函数的最大化。但作者发现对很多问题这样的做法效果很差，与之相反，如果不要求算法最大化目标函数，而是让其尽可能做新的尝试，也就是新奇性搜索算法，会有效得多。

作者不是要否定所有的目标，对大部分事物目标管理还是对的，但对于那些真正伟大的事物，作者多次强调你只能立足当前找到下一个踏脚石，而长期你会走到哪里，事先根本无法预期。

记得大学时曾听过丁肇中的一个讲座，他当时负责的一个项目是要去发现暗物质。但是他说科学史上很多实验都是事与愿违的，本来想发现A，结果发现了B，他这个项目也不知道会发现什么东西。

有意思的是，作者基于书中的理论，猛烈抨击了美国越来越依赖标准化考试的初等教育和越来越依赖于同行评议的科研经费分配制度，认为这些做法都会把伟大的苗子扼杀在摇篮之中（可能丁肇中的项目现在就拿不到经费了）。对我们的当下也是一个很好的对照。

再说第二本《Co-Intelligence: Living and Working with AI》，这本书刚出版三天，还没有中文版（不过有了沉浸式翻译不用愁）。作者Ethan Mollick是沃顿商学院专门研究创业和创新的教授。这本书重点讨论GenAI对工作的影响，对现有研究与资讯的梳理总结结构清晰，有理有据，绝对值得一读。

书的主要内容是三个部分。首先是和GenAI合作的四项原则，包括要始终让GenAI参与，把GenAI当作人而非软件，要告诉GenAI它是谁，假设AI技术水平会提高等；第二部分探讨了GenAI作为人、创意者、同事、导师和教练；第三部分畅想GenAI对未来的四种可能影响，从最保守的AI的水平停滞不前到最激进的AI成为超智能。

作者的基本态度是我们应该积极利用GenAI，GenAI对就业不会带来破坏性的影响。作者从任务到系统的递进的视角分析GenAI对工作的影响，认为虽然GenAI能够自动化某些任务，但绝大多数工作都是一个系统，因而不会因为部分任务自动化而被取代。我觉得这是我看到的对GenAI对工作影响最有条理的分析之一（而这个分析思路居然是AI给的建议）。关于对工作的影响，书中还多次强调GenAI会使得低水平和高手之间的差距变小。

书中还提出了不少形象的概念，如锯齿状边界（形容AI能力的参差不齐）、半人马和半机械人（人和AI结合的两种共同智能方式）。

这两本书有什么联系呢？很多。

GenAI就是一个伟大不能被计划的最佳案例，OpenAI走的路，在ChatGPT横空出世之前，没有人看好。GenAI下一步是不是会再次突破实现AGI，也不可能被计划，大家只能寻找下一块踏脚石。

按照伟大不能被计划的理论，当前GenAI的业界状态应该说很不理想，应该不同的团队尝试不同的踏脚石，但现在看起来几乎所有人都只在Transformer上雕花或者大力出奇迹。

第二本书还提到“产生创意的另一个关键方面是接受差异。研究表明，要想找到好的新创意，我们很可能必须想出许多糟糕的新创意，因为大多数新创意都很糟糕。”，这其实就是《为什么伟大不能被计划》里讲的新奇性搜索。

还有，两本书都讲到了莱特兄弟的案例，莱特兄弟就是将他们作为自行车机械师的经验与对鸟类飞行的观察相结合，提出了可控飞机的概念，即通过扭曲机翼来平衡和转向。他们是第一个发现这些概念之间联系的人。大模型是连接机器，最擅长发现事物之间的联系。乔布斯说，“看出各种事物之间的联系，再整合形成新的东西，就是创新”。《Co-Intelligence》一书在AI as a Creative一章重点介绍了GenAI对创意的帮助。

好的理论都是相通的，好的书会相互映证。