关于人工智能奇点的一些想法

曾经人们说人工智能在接近人类智力之后，智力会极速提升，就是所谓的奇点。

但是现在感觉这个奇点似乎过于巨大了。

因为现在的技术路线下，每一次预训练需要巨大的算力和漫长的时间。因此在人工智能的智力达到人类水平之前，改进ai的效率，还不如人类。即使人工智能的智力达到甚至超过了人类。它想改进自己仍然无法突破硬件的限制。即使三个月完成一轮训练，1万次也需要2500年。或者将现有的硬件规模扩大1万倍。

Openai有5万张卡，英伟达 Ai卡2024年生产460万张。照现有速度， Openai扩大1万倍。需要100年。前提是openai不停融资，英伟达也把全部的卡卖给他。

我估算中国一年ai投资占总投资比例约在3%±3%左右。美国比例大约是我们的5倍。这么高的比例我觉得长期很难有大幅提升。因此gpu的产量很难有爆发式增长。

总之，堆算力我们会被硬件产能所限制。因此要开发更高效的硬件和算法。因此ai的智力提升是一个缓慢的过程，很难瞬间提升。

我预计将有两个里程碑：

1. Ai可以在算法层面自我改进。
2. Ai改进自己的速度，超过人类改进ai的速度。
3. Ai可以完成任何程序的编写，从而取代大部分程序员。

第1个目标我认为三年内就能实现。

第2个目标可能需要10年。第3个目标可能在第2个目标后的两年内。

这意味着投资可能需要坚持12年。这12年内维持经济不崩溃就成为了重要的前提。

AGI的实现不是一蹴而就的。