图灵奖得主杨立昆为何批评Transformer模型和生成式AI？

在探讨Sora技术及其与生成式AI的关系时，我们不得不提及Facebook首席科学家杨立昆的批评。他质疑Sora仅通过操纵像素来模拟世界，认为Sora无法真正理解世界。然而，这种观点忽略了Sora背后的技术深度，尤其是其对Transformer模型的应用。

首先，Sora并非单纯的像素操作。它利用了diffusion算法和DALLE的能力，通过生成一系列图像帧来构建视频。这一过程中，Transformer模型不仅处理文本token，还处理图像和视频的最小单元——patch。这意味着Sora在生成图像时，能够捕捉到元素间的互动关系，如雪的松软的雪和活泼的狗、物体在不同视角下的变化等，这些都是像素操作所无法实现的。

其次，杨立昆对生成式AI的批评似乎带有个人色彩。他曾是CNN和DNN领域的先驱，但随着Transformer模型的兴起，这些早期技术逐渐被边缘化。尽管杨立昆对Transformer模型持有保留态度，但Facebook的LAMA项目却是基于Transformer模型的，这表明在实际应用中，Transformer模型已被广泛认可。

一种常见的观点是，虽然大语言模型能够从已知文本中获得丰富的知识储备，如历史和文化等，但是它们无法在无文本提示的情况下推理出新的概念或进行恰当的逻辑推断。这就使得一定程度上现有的文献对于大型语言模型是否具备真正的认知能力存在分歧。对此杨立昆教授提出了不同见解。他认为，大型语言模型缺乏关键的常识性知识，即那些不属于特定领域、因个体经验不同而有所区别的观念。这种背景知识源于人与客观世界的接触和互动，不能简单地以文本形式被总结出来。因为这样，对于真实世界的理解也就变得相对肤浅，往往与实际需求相去甚远。

在人工智能领域，Transformer模型因其可扩展性和工程实用性而受到青睐。它通过简单的计算单元叠加，实现了强大的性能，这与人类大脑的工作原理相似。尽管Transformer模型并非理论上最完美的算法，但它在实际应用中展现出了巨大的潜力。

最后，我们应当认识到，人工智能的理解和人类的理解是不同的。GPT能够准确回答问题，即使我们不能确定它是否“理解”了问题，但它的输出是有价值的。同样，如果Sora能够准确地模拟出符合常识的动态效果，那么它就展现了对世界的一种理解，哪怕这种理解是基于大量数据训练的结果。

杨立昆对Sora和生成式AI的反对声音

根本原因有以下几点

1. 技术立场差异 

杨立昆的研究背景主要集中在早期的卷积神经网络（CNN）和深度神经网络（DNN），这些技术在图像识别等领域取得了显著成就。然而，随着Transformer模型和生成式AI技术的兴起，这些早期技术逐渐被边缘化。杨立昆可能对这种技术转变持有保留态度，因为他的专业成就与这些早期技术紧密相关。

2. 对Transformer模型的质疑

尽管Transformer模型在自然语言处理（NLP）和计算机视觉（CV）领域取得了巨大成功，但杨立昆可能认为这种模型并非理论上最优，或者对其在某些应用场景的有效性持怀疑态度。他可能认为Transformer模型的流行更多是基于工程实践而非理论优势。

3.个人成就与行业趋势的冲突

杨立昆作为人工智能领域的元老级人物，他的个人成就与行业发展趋势之间可能存在冲突。随着行业对Transformer模型的广泛接受，他可能感到自己的研究方向和成就受到了挑战。

4. 对生成式AI的哲学质疑

杨立昆可能对生成式AI是否能够真正“理解”世界持有哲学上的质疑。他可能认为，即使AI能够生成逼真的图像或回答复杂问题，这并不意味着AI具有与人类相似的理解能力。

5. 对行业发展方向的担忧

杨立昆可能对当前人工智能行业的发展方向持有担忧，认为过度依赖生成式AI和Transformer模型可能会忽视其他潜在的创新路径。

综上，杨立昆的反对声音反映了他对当前人工智能技术发展的个人看法，以及对行业未来走向的担忧。尽管如此，他的批评也引发了对AI技术本质和发展方向的深入讨论。

在评价Sora和生成式AI时，我们不应仅仅停留在理论上的批评，而应关注其实际应用和潜在的发展。正如OpenAI的成功所示，工程化的方法和不断的迭代改进是推动技术进步的关键。