《ChatGPT原理最佳解释，从根上理解ChatGPT》

最新推荐文章于 2024-07-09 20:05:46 发布

十先生(公众号：Python知识学堂）

最新推荐文章于 2024-07-09 20:05:46 发布

阅读量1.3k

点赞数

文章标签： chatgpt

本文链接：https://blog.csdn.net/th1522856954/article/details/132021474

版权

【热点】

2022年11月30日，OpenAI发布ChatGPT（全名：Chat Generative Pre-trained Transformer），即聊天机器人程序，开启AIGC的研究热潮。

ChatGPT是人工智能技术驱动的自然语言处理工具，它能够基于在预训练阶段所见的模式和统计规律，来生成回答，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，甚至能完成撰写邮件、视频脚本、文案、翻译、代码，写论文等任务。

自从ChatGPT发布以后，大家对其的探索就从未停脚步，在这半年的时间里，其引发的关注、产生的影响、改变的方式，已经深深震撼广大的信息技术从业者，甚至有人提出了信息技术革命已经到来。

各目前，行各业已经开始思考如何在这“浪潮”之中让自己处于不败之地，毕竟ChatGPT已经开始改变人们的工作和思考的方式了。当然了，要利用好它就得充分了解和认识它，从现在从未来的角度来认识这个绝佳的“帮手”，纵观整个学术界和工业级对它的解释，讲解原理最为透彻的出版丛书就属于斯蒂芬·沃尔弗拉姆的《这就是ChatGPT》了。

【发展】

从最早的统计机器学习开始，我们走过了漫长的岁月。

过去十年多的时间，基于机器学习和深度学习打造的最强的工具就属于ChatGPT了，属于成功者中的“别人家的孩子”。许多学者觉得ChatGPT的成功不仅仅是因为其提供了一个聊天工具那么简单，更重要的是这个理论的成功，只要理论这条道路走得通，剩余的也就是脑指挥手的事情了。

对于这个高智能的系统来说，有时候在一些场景下的结果是令人不满意的，甚至会在简单的一些任务场景下进行“胡言乱语”，但我们知道这个大模型存在着巨大的潜力，随着新版的ChatGPT的迭代，那些明显的错误也就随着消失，但这并不意味着我们对“模型微调”将成为LLM大模型的主流之路，而应该将更多的工作放在了通用型人工智能(AGIC)的发展上。

回想起人工智能近些年的发展：

（1）1950年，图灵发表了论文《计算机器与智能》(Computing Machinery and Intelligence)，提到了著名的“图灵测试”。

（2）2006年，深度学习概念被杰弗里·辛顿正式提，因此2006年被称为深度学习元年。

（3）2016年3月，AlphaGo战胜了韩国围棋选手李世石。

（4）2018年，OpenAI发布了GPT-1。

（5）2020年6月，OpenAI发布了GPT-3。

（6）2022年11月，OpenAI发布了ChatGPT3.5。

（7）2023年4月，OpenAI发布了ChatGPT4，进一步提升模型参数量。

这些标志性的事件无一在说明，人工智能的发展是多么的迅速，迅速是因为需求驱动。另外，这种迅速是建立在人们对于大模型真的可以带来变革的信心之上。

ChatGPT迅速走红之后，国内外的企业纷纷跟进，微软、腾讯、阿里、华为、百度都发布了自己的大模型，一些大模型也都给了试用的网址，走在最前方的清华大学的ChatGLM2-6B模型已经开源，真勇气也。

【解释】

在各方的报道之中，我们大体知道ChatGPT 的工作原理是基于自然语言处理技术，通过学习大量的人类对话和文本数据，从而掌握语言的语法、语义和上下文信息。在 ChatGPT 中，对话生成模型使用了基于GPT的指令微调技术，这是一种特殊的训练技术，能够使人工智能更好地理解人类的指令和意图。

微调技术是一种基于人类反馈的强化学习技术，它通过不断地接收人类的反馈，从而不断地优化模型的生成结果。在ChatGPT 中，当用户提出一个问题时，ChatGPT 会根据问题生成一个回答，然后根据用户的反馈进行调整，不断地提高回答的质量。

ChatGPT 还使用了基于人类反馈的强化学习技术（RLHF），这是一种能够让人工智能更好地理解人类意图的技术。通过 RLHF 技术，ChatGPT 能够学习到人类的喜好和厌恶，从而生成更符合人类需求的回答。

这些解释过于学术了，好在现在这本书《这就是ChatGPT》可以快速帮助我们了解ChatGPT的全貌，我们来看这本数的目录部分：

全书内容分为两大章：

（1）第一章从原理上对ChatGPT要使用到的相关技术进行讲解，如神经网络技术，词嵌入的原理等等。基于这些理论的解释和补充作者在最后总结出基于ChatGPT能够做啥，能为我们的生活和工作带来什么样的变化。

（2）第二章作者为ChatGPT赋予了思想，在Wolfram|Alpha的加持下，Wolfram|Alpha利用其自然语言理解能力转换为精确的 Wolfram语言，基于此形式的表示，为ChatGPT赋予计算超能力，可谓是大胆实践的先驱啊。另外本章节最后使用一些实例来让读者感受ChatGPT的魅力所在。