大语言模型深究后发现是一只“随机鹦鹉”

 大语言模型可能暂时还是一只“随机鹦鹉”（Stochastic Parrot），它说很多但它不知道自己在说什么。但人类有anthropomorphism - 以物拟人、移情于物的心理本能。最终大部分人会相信AI不仅“成人”，还可能是全知全能的神。

狗在吠还是在回答问题？

一个男人和他的狗悉尼走进一家酒吧。酒保告诉男人不可以带狗进来。男人说:“但这是一条会说话的狗。它不但能思考和推理，还会评价。”  酒保说：“如果真这样,我可以考虑让它留下来。”

男人转向狗问:“如果我三天不刮胡子,我的脸会是什么感觉?”
狗回应：“Rough”  (粗糙的，译者注：rough是对应男人问不刮胡子会怎样的回应，这个单词的发音也有点像狗的吠叫声)。
男人又问：“房子的顶部是什么?”
狗说：“Roof” (屋顶，译者注：roof一词同时也听起来像狗的吠叫声)

酒保还是不相信。男人于是又问：“历史上最厉害的棒球运动员是谁?”
狗：“Ruth” (鲁斯，译者注：Ruth不但是著名棒球运动员Babe Ruth的姓，发音也有点像狗呜呜叫的声音)

“啦呋、噜呋、噜嘶”？就这？WTF... 酒保就把他们赶了出去。离开的时候，狗对男人说：“我是不是应该说‘Ty Cobb’ (泰·科布，译者注:Ty Cobb是另一位著名的棒球运动员)?”

这个笑话其实是在比喻目前大型语言模型的处境。不论结尾的笑点你Get不Get到，可以看看酒保的推理过程。那条“狗”给出了正确的答案，关于整理仪容、建筑和棒球方面的问题。但是，酒保可能想到，这些答案真的表明那条狗懂得整理仪容、建筑和棒球吗？如果是的话,