杨立昆说现在AI智力不如猫，元芳，你怎么看？

在研究出聪明AI系统之前，需要首先设计出一个比家猫聪明的系统的雏形。
杨立昆针对前OpenAI首席科学家IIya 离职事件给出了自己的看法。

LeCun：

在“紧急研究如何控制比我们聪明得多的AI系统”之前，
我们需要首先设计出一个比家猫聪明的系统的雏形。

它们需要多年时间才能变得像猫一样聪明，需要更多年才能变得
像人类一样聪明，更别提更聪明了
（不要将当前LLM的超人类知识积累和检索能力与实际智能混淆）。

它们需要多年时间才能在被部署和调优以提高效率和安全性时变得越来越聪明。
我在其中解释了为什么自回归的大型语言模型（LLM）
不足以达到人类水平的智能（甚至猫的智能水平）。

但是，我称之为“目标驱动”的替代架构有朝一日可能达到人类水平的智能。

这些架构使用基于JEPA
（联合嵌入预测架构，这种架构不是生成式的）的世界模型。

有了这些，我们可能拥有的系统能够：

1. 理解物理世界；
2. 拥有持久的记忆；
3. 能够进行推理；
4. 可能层级化地进行计划

这四个特性是智能行为所必需的，人类和许多动物都表现出这些特性。

一支烟评论：

其实这是杨立昆评价OpenAI首席科学家IIya的离职事件，之前IIya跟奥特曼闹的很凶。

IIya领导了负责AI安全的超级对齐团队，他们认为当前这个阶段OpenAI的某些能力需要受到限制。

而奥特曼显然更看重OpenAI商业化能力，他认为可能还不需要考虑AI的安全对齐的这样一个问题。

这才有了IIya2023年参与的OpenAI宫斗事件和最近他的离职。
而针对这件事，杨立昆认为现在的大模型AI还没有一只猫聪明，它可能需要多年时间才变得跟猫一样聪明。
需要更多年变得跟人类一样聪明，所以现在完全没有必要担心安全问题。

完整内容：

https://note.mowen.cn/note/detail?noteUuid=dr88hsTVDfJ3Qt61C5yKu