有没有哪个瞬间,让你突然对ChatGPT感到失望? | AIGC实践

不知道你是否和我一样,在第一次使用ChatGPT输入Prompt,并得到答复的那一刻,都会忍不住地赞叹一句:握草。

但随着时间慢慢拉长,体验不断深入,想法也会慢慢改变……

a6027267fd5376ddb12125b7a56e626a.png

主题图 by Midjourney。Prompt:The moment of disappointment with ChatGPT. --ar 16:9

前些日子在读一本名为《戒糖》的书,想借助ChatGPT帮助,收集一些相关信息,以便扩展阅读。结果,娄子了。

我问:你知道《戒糖》这本书吗?

ChatGPT自信答道:是的,我知道《戒糖》这本书。它是由李光斗博士撰写的一本关于如何戒掉糖分的书籍。……

错了,这本书的作者并不是李光斗。但此时我只以为,是有两本同名的书被搞混了,于是补充道:我说的是《戒糖:改变一生的科学饮食法》。

ChatGPT诚恳道歉,并继续答道:……是由徐瑞琳和谢佳撰写的一本健康饮食类图书。

又错了:也不对,是中信出版集团出版的。

双错了:啊啊啊啊,作者是罗晓。

终于,ChatGPT通过组织、复述我提供的信息,给出了正确的信息。于是继续:你能提供一些相关信息吗?

叒错了:出版时间、页数、定价……全部与实际不符。

ChatGPT似乎也开始对我不断指出它的错误感到不耐烦,反复辩解道:我已经检查了我的信息源;再次检查了我的信息源……

无奈放大招,直接指定图书的唯一编码ISDB:9787521714463。以机器逻辑提问AI,这回总不至于搞错了吧?

然并卵,叕错了……此情此景,怎么形容呢,大概像极了:

385126be328d95915d36a5a1316c37fa.png

根据ChatGPT官方介绍:

212fc1abc5e5e924a8d492589b49093a.png

虽然OpenAI官方给出了3个局限性说明:

  • May occasionally generate incorrect information

  • May occasionally produce harmful instructions or biased content

  • Limited knowledge of world and events after 2021

但是显然,人们对于ChatGPT的吐槽,远远不仅于此:

缺乏常识。 虽然 ChatGPT 可以生成类似人类的响应并可以访问大量信息,但它不具备人类水平的常识——而且该模型也缺乏我们拥有的背景知识。这意味着 ChatGPT 有时可能会对某些问题或情况提供无意义或不准确的回答。

理解上下文的局限性。 ChatGPT很难理解上下文,尤其是讽刺和幽默。虽然 ChatGPT 精通语言处理,但它可能很难掌握人类交流的细微差别。例如,如果用户在他们的消息中使用讽刺或幽默,ChatGPT 可能无法理解预期的含义,而是提供不适当或不相关的响应。

生成长篇结构化内容时遇到问题。 目前,ChatGPT 在生成长篇结构化内容时遇到了一些麻烦。虽然该模型能够创建连贯且语法正确的句子,但它可能难以生成遵循特定结构、格式或叙述的冗长内容。因此,ChatGPT 目前最适合生成较短的内容,如摘要、要点或简短解释。

可能有偏见的回答。 ChatGPT 是在大量文本数据上进行训练的,这些数据可能包含偏见或偏见。这意味着人工智能有时可能会产生无意中偏见或歧视性的回应。

有限的知识。尽管 ChatGPT 可以访问大量信息,但它无法访问人类拥有的所有知识。它可能无法回答有关非常具体或利基主题的问题,并且可能不知道某些领域的最新发展或变化。

准确性问题或语法问题。 ChatGPT 目前对错别字、语法错误和拼写错误的敏感性有限。该模型还可能产生技术上正确的响应,但在上下文或相关性方面可能并不完全准确。在处理复杂或专业信息时,这种限制尤其具有挑战性,其中准确性和精度至关重要。您应该始终采取措施来验证 ChatGPT 生成的信息。

……

当各行各业都在探索AIGC应用,迫不及待地追求降本增效的同时,我们不得不抱持着审慎的态度,至少目前看来,仅正确性一点,就无法达到技术文档交付的质量要求。我们能做的,只是不断探索ChatGPT的能力边界,使其在特定场景,以及,可靠的内容工程管理保障下,尽可能充分地发挥效用。但归根结底,工具还只是工具,没有必要神话。

相关文章:#AIGC实践

其他推荐:

实施:GitHub + MarkDown 文档系统的工作环境部署及工作流程说明 | 技术传播

354187cb06018ed400fa56454654cec9.jpeg

技术传播是一片蓝海 | 技术传播

访谈:TC无处不在,只是我们没有发觉 | 技术传播

这次他们说好要“讲真的” | 传播

在座都别吵了,你们还有我 | 技术传播

一本培养强迫症患者的说明书 | 技术传播

就像用心做好日本料理 | 技术传播

顽固的老头子与无聊的说明书 | 技术传播

转战新媒体 | 技术传播

评测:王者荣耀的用户帮助系统 | 技术传播

让爸爸妈妈也能享受到科技发展带来的便利 | 技术传播

企业级信息管理系统初创方案构思 | 技术传播

 c695dcbe113ebec9b6c00a7d5ebb3242.png

睿齐

技术传播从业者

品牌内容策划

自由摄影师

自由撰稿人

汪力迪

公众号:techcomm / htstory

微信号:bgrichi

邮箱:hash_0813@163.com

8f5a341d210c8f425c7e8ebc854c10d9.jpeg

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值