ChatGPT 背后核心技术的白话版

本文是关于ChatGPT 背后核心技术实现的一个通俗白话版，不涉及到的AI具体实现的技术细节哦。

在编排上增加了一些分割，内容具体如下：

LLMs(大型语言模型)

如果将ChatGPT比作是动物，它就像一只饥饿的毛毛虫一样，毛毛虫喜欢啃食树叶，并不断的长大。

LLMs(大型语言模型)也喜欢吞噬大量的文本数据，并利用这些数据来学习，然后变得更加的聪明，更加的强大。LLMs消耗的文本数据越多，它们对语言和词语之间的关系的理解就越深。

就如同自然界内，毛毛虫要变成美丽的蝴蝶一样，LLMs也会进化为强大的语言模型，它也可以理解并生成类似人类的反应。

语言模型被训练来预测一个序列中的下一个词，有两种常见的方法：下一个标记预测(next-token-prediction)和掩码语言建模(masked-language modeling)。

Next-token-prediction模型的样本，比如：

"The cat sat on the...."

Next-token-prediction模型将被训练来预测 “The cat sat on the....”之后的下一个单词。给定输入“The cat sat on the....”，模型可以预测“mat”、“couch”或“chair”。

Masked-language-modeling模型的样本为：

The quick brown [