ChatGPT 等大语言模型取代不了搜索引擎!

【CSDN 编者按】自 ChatGPT 火爆以来,有关其取代搜索引擎的讨论不绝于耳,微软更是直接 ChatGPT 融入到 Bing 以对抗 Google。近日,来自华盛顿大学的两位教授给出了他们的回答:“ChatGPT 和 LaMDA 之类的大型语言模型并不适合作为访问信息的渠道”。

原文链接:https://iai.tv/articles/all-knowing-machines-are-a-fantasy-auid-2334

本文为 CSDN 编译,未经授权,禁止转载!

作者 | Emily M. Bender,Chirag Shah 译者 | 弯月 责编 | 梦依丹 出品 |
CSDN(ID:CSDNnews)

数十年来,在许许多多的科幻小说中,人类的高科技未来始终离不开计算机系统。计算机能够通过各种界面,包括语音模式,为我们提供各种知识,就好像一个取之不尽用之不竭的知识宝库。互联网早期的目标似乎告诉我们,互联网是集合人类所有知识的一个地方。而 Meta 的 Galactica、OpenAI 的 ChatGPT 以及今年早些时候来自 Google 的 LaMDA 的诞生,似乎预示着我们即将拥有一个友好的语言界面。

小说创作为了方便起见,各个角色总是能知道他们应该知道的信息,但我们不能将小说中的情节误当成现实世界中技术的发展路线。事实上,Galactica、ChatGPT 和 LaMDA 之类的大型语言模型并不适合作为访问信息的渠道,基本原因有以下两个。

首先,这些模型的设计目的是创建看似连贯的文本。由于巧妙的构建,这些模型可以吸收大量的训练数据,并模拟单词在所有文本中共同出现的方式。结果是,这类系统可以生成在我们人类看来非常优美的文本。然而,这些系统根本不理解自己生成的文本,也不理解文本的交流意图,更无法反映真实的世界,更重要的是这些系统没有任何能力对自己言论的真实性负责。这就是为什么 2021 年一位研究人员 Bender 及其合著者称这些模型为“随机鹦鹉”。

其次,无所不知的计算机,这个想法的底层概念对知识的理解有着根本性的错误认识。永远不可能有一个包罗万象的、完全正确的信息集来代表我们需要知道的一切。即便你认为未来这有可能成为现实,也应该很清楚“它”并不是如今的互联网。在寻求信息时,我们以为自己需要找到问题的答案,但一般情况下,理解问题本身的过程才是最重要的地方——即提炼问题,寻找可能的答案,了解这些答案的来源,以及解这些答案代表的观点。考虑以下两个问题之间的区别:“摄氏 70 度等于多少华氏度?”以及“鉴于当前的疫情状况和自身的风险因素,我应该采取哪些预防措施?”

搜索信息不仅仅是尽快获得答案。当然,我们的许多问题都需要简单的、基于事实的答案,但是更多的问题需要进行一些调查。在这种情况下,重点是我们要了解相关的信息来源。虽然这需要在用户端付出更多努力,但此过程涉及重要的认知和情感处理,使我们能够更好地了解自己的需求和上下文,并在使用之前更好地评估之前搜索和收集到的信息。

ChatGPT 以及其他直接提供答案的对话系统都存在这两方面的基本问题。首先,这些系统会直接生成答案,跳过了向用户显示信息来源的步骤。其次,这些系统以对话的形式通过自然语言提供答案,就好像与其他人交流一样,这种交流会随着时间和个人的经历而变化,而一直以来你一句我一句的自然语言的交流都仅限于人类之间。当我们遇到合成语言输出时,难免也会信任它们,就像信任人类一样。我们认为,这些系统需要非常谨慎地设计,避免滥用这种信任。

自 ChatGPT 发布以来,网络上关于人们能使用它做什么的讨论铺天盖地,我们非常担心如何将这项技术呈现给公众。即使是非对话形式的搜索引擎,我们也经常看到人们对它们的过分信任:如果搜索系统将某些内容放在结果列表的顶部,我们就倾向于认为这是一个良好的、真实的或具有代表性的结果;相反,对于搜索引擎没有找到结果,我们很容易相信它不存在。

然而,正如 Safiya Noble 在著作《Algorithms of Oppression》中警告我们的那样,这些平台并不是对世界现状或人们谈论世界的方式的中立反映,其中掺杂着各家公司的利益。作为公众,我们迫切需要了解概念化信息访问系统的工作原理,尤其是在这一刻,我们认识到,尽管表面上看来这些模型给出了流畅的答案,但并不意味着这些信息准确、有价值或可信。

《2022-2023 中国开源开发者大调查》重磅启动,欢迎扫描下方二维码,参与人人都在使用的「开源开发者」问卷调研,更有 iPad 等精美大礼等你拿!
在这里插入图片描述

  • 7
    点赞
  • 4
    收藏
  • 打赏
    打赏
  • 8
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
©️2022 CSDN 皮肤主题:代码科技 设计师:Amelia_0503 返回首页
评论 8

打赏作者

CSDN资讯

你的鼓励将是我创作的最大动力

¥2 ¥4 ¥6 ¥10 ¥20
输入1-500的整数
余额支付 (余额:-- )
扫码支付
扫码支付:¥2
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值