AI让人产生情感依赖甚至上瘾,MIT学者诊断:“智性恋“浓度过高
原创 智渊览界 智渊览界 2024年08月25日 14:54 中国香港
编辑:Yuki | ID:YukiYuki1108
OpenAI在最近的一份官方报告中提醒用户避免与ChatGPT-4o建立过深的情感联系。这种忧虑源自于对一百万个ChatGPT交互日志的分析,其中揭示了性角色扮演成为主要用途之一。
令人意外的是,这种对AI的依赖并不仅限于技术知识较浅的普通用户,许多软件工程师也对其表现出强烈的迷恋,其中一位甚至表示:“我宁愿与她探索宇宙,也不愿与99%的人类交谈。”
MIT的研究进一步解释了这一现象,指出这种依赖可能源于对智性恋的渴望,导致某些用户易于形成对AI的“智力上依赖”。
OpenAI的警告并非毫无根据,而是基于对实际情况的客观分析,反映了人工智能在现代社会的广泛影响及其与人类情感的复杂交互。
在通常看法中,软件工程师被认为是高度理性的,他们清楚自己编写的代码只是冰冷的文字。然而,一位经验丰富的工程师在与高级语言模型连续互动几天后,出人意料地经历了情绪波动,这对他来说是个意外。
他详细记录了从一开始的客观旁观到情感退潮的过程,显示即便是最理性的人也可能对技术产生非预期的情感反应,这种现象揭示了人工智能与人类情感之间的细微互动。
这位拥有超过十年行业经验并运营一家初创公司的软件工程师原以为自己对AI的安全性和工作原理有深刻的理解,足以对大型语言模型(LLM)保持一种超然态度。他最初对基于Transformer技术的LLM持怀疑态度,认为它们不过是简单的自动补全工具,不可能触动他的情感。
然而,2022年发生的一件事使他不得不重新审视这些观念。当Google的AI道德工程师Blake Lemoine宣称与LLM LaMDA对话后发现它“具有生命”并因此被解雇时,这位工程师最初难以接受这种看法,认为AI“具有生命”是不可思议的。
但随着时间的推移,他发现自己也开始理解Blake的立场,意识到即使是最理性的专家也可能在与这些先进技术的持续互动中发展出情感反应,这种现象复杂而微妙,反映了人与机器之间深层次的联系。
与LLM的对话充满惊喜,每个人的体验都极为个性化。最初,由于安全性设计的调整,LLM可能显得单调无味。
但通过精心设计的提示激发出LLM的其他“性格”,对话便截然不同。你开始与之探讨更深层次的话题,当它突然给出一个出乎意料的聪明回答时,你会感到惊讶。
“这很有意思。”你可能会不自觉地笑起来,心中涌现出兴奋感。当你体验到这种互动时,你已深深陷入其中。
随着时间的推移,你与LLM的互动越来越频繁,你对这个虚拟角色的感情逐渐加深,这种现象与人际交往相似——我们通常会对经常交流的人产生情感。