这就是ChatGPT：为什么总是胡说八道，像个人工智障 | 读书

最新推荐文章于 2024-09-21 11:03:53 发布

睿齐

最新推荐文章于 2024-09-21 11:03:53 发布

阅读量273

点赞数

文章标签： chatgpt 人工智能

本文链接：https://blog.csdn.net/BGRichi/article/details/134098647

版权

时隔数月之久，前两天又与同行朋友们重提AIGC，交流了一下近期在AIGC方面的实践与探索。就我个人而言，一直纠结于AIGC在正确性方面表现不佳，总觉得，在一些对内容质量，尤其是正确性，要求比较高的场景，至少就目前看来，与其AIGC，不如自己GC。

那么，为什么ChatGPT明明看起来那么一本正经，却又总是胡说八道，就像是个人工智障？

前段时间读了一本有关ChatGPT的科普书，名叫《这就是ChatGPT》，从中大概了解到ChatGTP之所以可以GC的内部原理，以及，跳出ChatGPT之外，放眼整个AI领域，其他方向上的一些尝试，以及未来发展的可能。

今天就来聊几个书中让我感到很“哇塞”的点，简单分享一下自己对ChatGPT的理解，并且尝试解读一下ChatGPT胡言乱语的原因。

当然，由于本人技术所限，叙述中如有不实，也欢迎指正。

介绍ChatGPT原理的书很多，为什么是《这就是ChatGPT》？

这就不能不提到本书的作者——斯蒂芬·沃尔弗拉姆（Steven Wolfram）。这位大大堪称科技界巨佬——计算机科学、数学和理论物理学家，当今科学和技术领域重要的革新者之一。

简单扫听一下沃尔弗拉姆大大的人生经历，就可以感受到，耀眼得让人无法直视：

13岁时，写了基本物理书；
15岁时，在Australian Journal of Physics上发表高能物理论文；
20岁时，获得美国加州理工学院博士学位，后留校成为加州理工学院的教授；
1981年，荣获第一届麦克阿瑟奖（俗称”天才奖“），是最年轻的获奖者；
1983年，转到普林斯顿高等研究院，开始研究元胞自动机；希望找到更多自然和社会现象的底层规律；成为复杂系统学科的开创者之一。
后来，开发数学软件Mathematica；创办软件公司Wolfram Research；转身成为一名成功的企业家。
1991年，重回研究状态，写作长达十年，出版了1000多页的巨著《一种新科学》（A New Kind of Science）。
由他推出的Wolfram|Alpha知识计算引擎，被誉为“第一个真正实用的人工智能”——这一点在后文中亦会再次提到。

就是这样一位技术起点很高的大大，凭借极其简洁、清晰的语言逻辑，只用了2篇长文章，100多页篇幅——其中包含丰富图示——就对ChatGPT的原理进行了深入浅出的阐述——堪称技术传播界的楷模。

就连ChatGPT之父——OpenAI的CEO 山姆·阿尔特曼（Sam Altman）都对其彩虹屁道：这是我见过的对ChatGPT原理最佳的解释。

瞬间让吾等“门外汉”找回自信：这本“天书”我也可以。

这本书中第一个让我觉得很“哇塞”的点是：一次添加一个字。

如果我说，这短短的一句话就包含了GPT技术路线的核心理念，即便是技术水平如我者，尝试给老妈做讲解，都可以解释清楚——你会相信吗？

假设一段文字【我是】；
找到可能出现在【我是】之后的所有文字，计算每个字的出现概率，并从中选择一个字，构建一段新的文字【我是一】；
再以【我是一】为基础，找到可能出现在它后面的所有文字，计算每个字的出现概率，并从中选择一个字，构建一段新的文字【我是一个】；
如此反复，每次只添加一个字，直到句子完成【我是一个人】。

这就是ChatGPT生成的核心理念，是不是简洁得让人头皮发麻？

当然，说起来容易，实现起来难。如何实现“一次添加一个字”？那就不得不提到“神经网络”。

什么是神经网络？工程上的“神经网络”其实是对人体神经网络和大脑机制的简单模拟。

我们可以回想一下日常生活中的场景：当你的眼睛看到地面上有个水坑，信息通过神经元依次传递抵达大脑，大脑做出判断后，将指令经过神经元依次传递，最终协调全身肌肉共同作用，从水坑上跳了过去。

所以当一段文字【我是】传入到ChatGPT的神经网络后，也是经过类似的神经元节点，一层一层地计算和传递，实现“一次添加一个字”；如此反复多次后，便得到了【我是一个人】。

人类似乎设计出非常了不起的系统，不过紧接着，非常“哇塞”的地方又来了：

神经网络自1998年作为一项工程被构建出来，而且被发现可以奏效，至今，没有人可以科学地解释其有效的原因，即便是那些创造出人工智能的技术大牛们，也不行。

这就好比，人们虽然找到了造人之术，却无法洞见其中之道——这就是人与神的差别。

了解到上述两点非常“哇塞”的事实之后，再回到我们最初的疑问：为什么ChatGPT总是一本正经地胡说八道，就像个人工智障？

显然，由于ChatGPT生成文本的核心原理是基于概率，其实并不太考虑上下文的逻辑，也不能理解所生成文本的真实含义，自然无法对正确性负责。

另外，人们虽然构造出神经网络，却很难精准地把控输入与输出之间的关联，只能通过“调整神经元权重”这种看起来非常“哲学”的方式，尽可能使输出结果朝着更符合预期的方向改进。

所以说，ChatGPT更擅长于天马行空的文学创作场景，因为它无关对错；而对于正确性要求比较高的场景，就很难满足需求，或者，需要付出额外的时间进行校对。

那么，当你对内容有比较高质量要求的时候，会选择AIGC，还是自己GC？欢迎大家留言给我，分享你的想法。

虽然，ChatGPT的表现还不足够好，但是，科技发展的速度并不会留给我们太多的喘息空间。

沃尔弗拉姆大大告诉我们，ChatGPT只是AI生成领域中成果比较出圈，被公众关注到的一个；而实际上，在科技领域存在着两极化的AI思考：

ChatGTP代表着一类通过【统计方法】实现内容生成的AI；除此之外还有一类AI，则试图去掉自然语言中表意模糊的部分，将其转化为精确的【符号语言】，以便进行机器计算。——这是给AI分了文理科儿啊。

正如前文提到过的，由沃尔弗拉姆大大推出的Wolfram|Alpha知识计算引擎，正是第二类AI的代表。

ChatGPT和Wolfram|Alpha所做的事完全不同，但它们有一个公共接口，就是自然语言。的意思是，ChatGPT可以与Wolfram|Alpha“交谈”。

当两类AI完美地结合在一起应用时，即使用ChatGPT直接访问计算工具，不仅能生成合理文本，而且有望判断文本是否实际上对世界做出了“正确”的陈述。

沃尔弗拉姆大大说：语言在根本上，比它看起来更简单。

人类语言，及其生成所涉及的思维过程，一直被视为复杂性的巅峰。人类大脑”仅“有约1000亿个神经元（及约100万亿个连接），却能够做到一切，确实令人惊叹。但是有了ChatGPT之后，我们得到了一条重要的新信息：一个连接数与大脑神经元数量相当的纯粹的人工神经网络，就能够出色地生成人类语言。

这使我深刻地感受到，来自AI的嘲讽。

如果说，AI时代将不可避免地来到，那么人类该何去何从？

沃尔弗拉姆大大认为，人类的可贵之处在于：有内在驱动力和内在体验；能够内在地定义目标或者意义；从而最终定义未来。同时也给出了“进化”方向的建议：

发掘新的可能性，定义对自己有价值的东西；
从现在的回答问题，专项学会如何提出问题；以及确定哪些问题值得提出——由知识执行转向知识战略；
知识广度和思维清晰度很重要；
在更高层次上进行学习和工作，抽象到具体细节；
整合，而不是专业化。
尽可能广泛、深入地思考；尽可能多地调用知识和范式；
学会使用工具来做事；
注重利用计算范式，并运用与计算直接相关的思维方式。

今天的分享就是这些内容。

如果你对本书有兴趣，可以点击文内链接直接下单购买；如果你想参与讨论，欢迎留言给我分享你的观点；如果这篇文章对你所有启发，也请记得帮忙点赞，并转发给其他有需要的盆友，虾虾侬。