黑神画Ⅷ--人工智能之镜：为何我们对自己的倒影如此困惑？

在大多数关于“人工智能”的使用和滥用的主流讨论中，我们看到了人们对我们自己的反思的普遍惊讶。例如，去年《纽约时报》的“每日”播客节目“在线搜索战争变得可怕，快速”被证明是一场异常空洞的讨论，讨论的是与基于 GPT 的“聊天机器人”的互动。两位对话者都为营造一种令人不安的神秘主义氛围做出了贡献，这种氛围围绕着受访者的经历，即聊天机器人表现得过于依恋，并坚持要他离开妻子和聊天机器人在一起。我承认，表面上看，这听起来像是上流社会对计算机的一种奇怪使用。但试图将其解释为一种险恶的、带有广告的、世界末日前的科幻体验，对任何想要了解这项技术及其对社会的影响的人来说，都是极大的伤害。正如我们将要探讨的，这些受到媒体广泛关注的语言模型通常是用来自互联网这个充满恶俗和邪恶的巢穴的文本（即人类写的文字）进行训练的，而这又是一个完全可以预见的垃圾输入，垃圾输出的例子。聊天机器人充满爱意的恳求让人想起肥皂剧中被捕前情人的平庸对话，这确实可能是其模拟反应的来源。播客中记者们表达的震惊只是凸显了我们人类投射和拟人化任何我们能接触到的东西的能力。为什么我们会如此惊讶地看到我们自己的文化反映在我们建造的工具中，这对我来说仍然是一个谜，尽管我认为一些困惑源于我们如何使用语言，无论是创造还是讨论这些新工具。

我们到底想表达什么？
因此，为了达成共识，或者至少了解各种选择，让我们考虑一下“人工智能”的含义。为此，我们需要了解智能的含义，这并非易事。我们经常使用这个术语，而且在日常用语中经常含糊地表示逻辑推理、抽象、洞察力、解决问题的能力、记忆力等。它通常似乎涉及思维与某种信息之间的关系，而这些信息本身都是难以捉摸和不断变化的概念。所以我们已经陷入了泥潭，现在我们需要将智能定义为“人工智能”。通常，这通常意味着“由人制造”，并且经常带有相当负面的含义，一种虚伪或欺骗的感觉，就像“假笑”，或者是一种不太健康的“自然”替代品。大多数指代现代计算方法的“人工智能”一词的使用基本上与“机器学习”同义，后者是一个不太含糊的术语，指的是通过使用标记数据进行训练来构建统计模型。因此，如果有人将 ChatGPT 称为“人工智能”，你基本上可以将其替换为“在更大量数据上训练的超大统计模型（即数学函数），这样就能更好地理解其含义。
在社会理论和科幻小说中，“人工智能”可以呈现出全新的含义，源于非人类信息处理概念，但通常会捆绑感知的概念，即情绪、思维、感觉、能动性等，这些在哲学意义上非常有趣，但与当前的计算状态毫无相似之处。

智能与类比
我认为，重要的是要记住，这些核心概念虽然难以确定，但却是我们最普通、最日常的事物。事实上，它们是如此熟悉，以至于我们在日常生活中常常没有注意到它们，因为它们是如此基本和明显。但在处理“人工智能”这样一个相对新颖的概念时，如果我们不理清它们，我们很快就会陷入自己的假设和偶然的模棱两可的纠结之中。因此，我们不应该试图用分析特异性来抽象和定义，而应该尝试用这些想法中的许多想法（如意识或智能）来唤起我们深刻而直接的体验。
在这方面，杰出的认知科学家霍夫施塔特和桑德用整本书来阐述类比是思想的“燃料和火种”这一观点。事实上，我们都是类比专家，我们主要通过使用类比相互联系来驾驭这个具有巨大社会和物理复杂性的世界。整个对话都是在人们分享经验的过程中进行的，使用诸如“这让我想起了那次……”或“我昨天也遇到过类似的事情……”这样的短语，我们创造、交流和分享复杂的类比，几乎所有的事实都是不同的，但我们都理解和欣赏复杂的概念相似性，从而使我们能够建设性地与它们联系起来。有人可能会说，语言或认知本身只是进行类比的系统——词语之于其指称物，就像神经状态之于它们所反映的现实。计算机的力量和缺陷都在于它们能够类比我们编程来表示的状态。因为语言是从人类和人类行为中进化而来的，所以我们用我们已经理解的词语来创造隐喻要方便得多，而不是定义全新的想法和词语，所以我们将多功能互联网连接手机称为“智能”，尽管我们并不想带来一个聪明人所具有的所有隐含的类比特征，比如创造性和独立解决问题的能力。这绝不是反对类比的论点：类比对于思考和学习非常有用，但如果我们不清楚地思考类比及其局限性，它也会同样具有误导性。
如果我们说“计算机可以大声朗读一本书”，我们的意思并不是说它将体验托尔金的世界并与热心的听众分享，我们只是说它可以重现我们之前编入程序的有序声音（而且仍然没有主动性）。现在任务的复杂性不断增加，我们几乎无法抗拒地被计算机潜意识的拟人化所驱使，比如“计算机可以和你聊高尔夫”或“计算机可以推荐更多你喜欢的电影”。如果我们不停下来并剔除感知的假设，我们很快就会开始积累一堆潜意识的想法，当我们打开语言之门时，这些想法就会被卷入其中。引入“人工智能”等模糊但令人回味的术语会使这个问题变得更加严重。虽然这个术语在指代一种特定的数据处理和生成方法时确实有一定的用处，但它与人类特征（如意识、知觉、生命、死亡等）的其他任何计算类型并没有根本区别，也就是说，它与人类特征完全不同。如果我们允许我们的思想被对语言的无知所禁锢，我们就会看不到很多真相。而有了“人工智能”，我们​​就会远离无数令人兴奋、美妙和可怕的可能性，因为我们拒绝将自己从无意识假设的牢笼中解放出来。
在这些对话中，似乎没有受到质疑的一个假设是，模拟相当于现实。也就是说，如果我们能制造出一台能够执行与思考生物无法区分的动作的机器，那么这台机器一定是思考生物或有感知能力。这似乎极不可能，原因仅仅是我们最基本的分子构成。这些深刻的人类意识和自我体验似乎源自生物大脑——一个由碳基化合物和复杂的细胞代谢组成的大脑。为什么我们会自动期望由金属和硅制成的大型服务器机架具有如此丰富和基础的特性？简单地编写一个模拟程序目前还没有导致潜在的现实在任何其他情况下出现；尽管肯定有一个论点，因为思想本身是在生物基质中组织的电脉冲的运动，所以在非生物基质中组织的电脉冲本身就是一种思想，无论情感状态或内在体验如何。在我看来，即便如此，这种内在体验的根本现实对于在服务器基底上体验存在的思维模式来说也会大不相同，以至于我们对“智力”、“存在”、“情感”等事物的最深层体验将不再适用。但会有类似的东西吗？这是一个有趣的问题，即究竟是什么导致了复杂思维系统的这些新兴特性。对变压器和注意力机制的研究无疑对神经科学和 AGI 都有着有趣的意义。
就复杂性和规模而言，我们的计算水平肯定已经接近大脑，所以我不想否认这种技术可能会产生一些令人难以置信的新兴效应的可能性——但以金属和半导体片为基础，难道它不会显得非常陌生吗？我们人类自己的经验在分子生物学层面上是如此深刻，以至于我们几乎不可能推断出可能发生什么影响以及为什么会发生，因为我们不完全了解我们自己的意识体验是如何产生的，以及它们是如何从神经/物理基底中产生的。

并非我们第一次接触现代计算技术。它拥有巨大的潜力，但当前的事实错误聊天机器人和社会对高中抄袭的过度反应，让人既不见树木又不见森林。这并不是我们第一次在文化上探索新技术如何影响我们的大脑——甚至还差得远。
柏拉图的《斐德罗篇》写于公元前 370 年左右，其中对写作作为一种媒介提出了批评——不再需要即兴演讲和凭记忆演讲会导致公民的记忆衰退，组织和交流思想的能力也会受到影响。当然，这是一个具有讽刺意味的背景，因为柏拉图本人就是通过写作进行交流的，但我们看到，当字母和读写能力本身还是相对较新的技术时，对技术的类似看法也受到了阻碍。广播、电视、互联网都有各自的支持者和反对者，通常都呼应着同样的预言：大脑衰退、恢复力丧失和大规模控制，与更快的通信、创新和进步、安全和科学改进相对立……所有这些，无论是消极的还是积极的，通常都会以某种形式实现，而人类的状况基本上没有改变。与其思考每一项新技术会如何影响整个社会，不如审视我们自己与所有这些技术的关系，这往往更有收获。当我们感到压力时，我们会去幻想小说寻求解脱吗？我们是否会为了顺从无意识的社交媒体广告而冲动地购买我们不需要的东西？我们是否需要一部手机来让我们在排队等待几分钟时感到安心？
计算能力和大型数据驱动模型无疑在科学和工程领域有着令人兴奋的前景——但这些信息技术真的是解决孤独或心理健康等问题的正确方法吗？

新的经济现实？
目前公众普遍存在的假说中，另一个充满争议和争议的领域是这种新兴计算技术对经济的预期影响，特别是对人类劳动力的替代。正如许多评论员指出的那样，即将取代人工和重复性工作的叙述突然被颠覆，主流观点认为“创造性”或“白领”工作将成为首当其冲的牺牲品。
令人沮丧的是，这两种观点可能正确，也可能错误。主要驱动力仍然是现金——我们目前拥有的技术可以推动大量的工作替代，我们应该选择投资所需的资金来实现这一改变。但通常来说，人力更便宜。构建相当好的人工智能已经变得容易得多，但构建强大且适应性强的人工智能仍然是一个极具挑战性和成本高昂的目标。人类有能力以仍然难以转化为数据驱动模型的方式监控和快速适应事件环境，而人类的这种天生能力可以奇迹般地减轻即使是简单任务中的小错误或异常的影响。另一方面，人工智能模型的行为方式往往相反——输入的微小变化或轻微故障都可能导致行为越来越不同的级联反馈循环，即模型的实用性和连贯性急剧下降。
当涉及到这些小型创意产品（例如简单的图形或文字）时，“人工智能生成”已经成为“低效用”或“廉价和劣质”的代名词。除了对收入的影响之外，企业当然对质量不感兴趣，因此，作为消费者，我们愿意容忍的普通垃圾越多，某些工作就越有可能被交给机器。

当然，在技术中看到我们的影子，或者说我们的影子，并不是一个新现象。最近，我们看到关于社交媒体的讨论也类似，专家和用户将其视为一种独立的力量，好像它与我们共同创造的完全不同。它只是在我们建造它时形成的，只有我们赋予它力量。如果我们选择将注意力放在屏幕和广告的统治下，那么我们必然会受到多巴胺和干扰的束缚，并要求我们的行为受到暴政的统治。

​

​​​​欢迎前往我们的公众号，阅读更多资讯

创作不易，觉得不错的话，点个赞吧！！！