大语言模型（LLM）工作的3个步骤，一文带你搞清楚！

生成式AI中常说的token是什么？嵌入（Embeddings）是什么意思？为什么现在的AI具有生成能力？AI是怎么和你进行对话的？为什么都说提示词很重要？为什么同一段提示词，同一个AI模型/工具，多问几次可能得到截然不同的结果？

要回答以上这些问题，你需要了解大语言模型（LLM）是如何工作的。知其然，也要知其所以然。

步骤1：分词（Tokenize）

面对一个问题，我们人类的习惯性操作是什么？理解问题。LLM也是一样。

LLM在处理输入文本时，首先使用分词器（Tokenizer）将文本分割成若干小的文本块，即tokens。这些tokens由可变数量的字符组成，随后被转换成高维向量的数值表示，也就是嵌入（embeddings），供模型处理。这一步骤是模型理解语言的基础，类似于人类阅读和解析文本的过程。

分词（Tokenize）是LLM工作的第一步，在这个过程中将输入文本转换为模型可以处理的数值表示。这个过程通常包括以下几个步骤：

• 文本分割：输入文本首先被分割成若干小的文本块（tokens）。每个token可以是一个单词、部分单词或字符序列。分词的方式取决于具体的分词器算法和模型的需求。例如，BERT模型通常使用WordPiece分词方法，而GPT系列模型使用Byte Pair Encoding (BPE)。

• Token映射：分割后的tokens被映射到特定的token索引，即整数编码。这些整数编码是模型内部词汇表的一部分。通过这种方式，文本被转换为数值序列，模型可以更高效地进行处理。

• 嵌入（Embeddings）：这些整数编码随后被转换为高维向量，这些向量称为嵌入（embeddings）。嵌入是对文本语义信息的密集表示，捕捉了词汇之间的语义关系和上下文信息。嵌入向量在模型的初始层被计算和优化，以便在后续的模型层中进行处理。

步骤2：预测（Predict）

在完成分词和嵌入后，LLM进入核心的预测阶段。这一过程通过多层神经网络和注意力机制来完成，以确保生成的文本在语法和语义上都是合理的。自注意力机制（Self-Attention）允许模型在生成文本时关注输入序列中的不同部分，从而理解单词之间的依赖关系。例如，Transformer架构通过自注意力机制有效地捕捉长距离依赖关系，并能够高效并行地进行计算。

• 输入处理：模型接收n个输入tokens的嵌入表示。通过多层的神经网络（通常是基于Transformer架构的层），这些嵌入被处理以捕捉词与词之间的依赖关系和上下文信息。

• 自注意力机制：在每一层中，模型使用自注意力机制来计算每个token与其他token的关系。自注意力机制允许模型在处理当前token时考虑整个输入序列的上下文。这对于生成连贯和上下文相关的文本至关重要。

• 前馈神经网络：经过自注意力机制处理的输出被传递给前馈神经网络层，进一步进行非线性变换和特征提取。经过多层的自注意力和前馈处理后，模型生成用于预测的特征表示。

关于Transformer架构更深层次的解读，可以看我这篇文章：《常学常新：《Attention Is All You Need》万字解读！》。

步骤3：概率分布和选择（Probability Distribution & Selection）

在生成文本时，LLM会为每个可能的下一个token计算一个概率分布。然后，模型会选择概率最高的token作为输出，或者通过引入随机性来选择token，从而模拟创造性思维。这种随机性的引入是为了增加模型输出的多样性，避免每次生成相同输入的相同文本。

• 概率分布计算：模型为每个可能的下一个token计算一个概率分布。这些概率反映了每个token在当前上下文中作为下一个token的可能性。概率分布是通过softmax函数计算的，确保所有可能token的概率之和为1。

• 选择输出token：根据计算出的概率分布，模型选择一个token作为输出。通常会选择概率最高的token，但为了增加生成文本的多样性和创造性，模型有时会引入随机性。这种随机性可以通过“温度Temperature”参数进行调整，温度越高，生成的文本越随机。

• 迭代生成：选择的输出token会被加入到输入序列中，模型重新进行上述步骤，以生成下一个token。这种迭代过程一直持续，直到生成完整的句子或文本。

结语

知其然，更要知其所以然。

生成式AI中常说的token是什么？

Token是LLM处理文本的最小单位，可以是一个单词、部分单词或字符序列。分词器将文本分割成tokens，并将其映射为数值表示，供模型处理。

嵌入（Embeddings）是什么意思？

嵌入是将tokens转换为高维向量的过程，这些向量捕捉了词汇之间的语义关系和上下文信息，是模型理解语言的基础。

为什么现在的AI具有生成能力？

LLM通过大规模数据训练和复杂的神经网络结构，能够预测并生成符合上下文的文本。这种能力源自模型对语言模式的深度学习和对上下文的理解。

AI是怎么和你进行对话的？

AI通过接收你的输入，进行分词和嵌入，然后预测下一个可能的token，生成回应文本。这个过程是连续且动态的，确保对话的连贯性和相关性。

为什么都说提示词很重要？

提示词（prompts）是模型生成内容的起点，好的提示词能引导模型生成更符合预期的高质量文本。

为什么同一段提示词，同一个AI模型/工具，多问几次可能得到截然不同的结果？

这是因为模型在选择输出token时引入了随机性，尤其是温度参数较高时。这种随机性模拟了创造性思维，确保生成的文本多样性。

---

那么，我们该如何学习大模型？

作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

一、大模型全套的学习路线

学习大型人工智能模型，如GPT-3、BERT或任何其他先进的神经网络模型，需要系统的方法和持续的努力。既然要系统的学习大模型，那么学习路线是必不可少的，下面的这份路线能帮助你快速梳理知识，形成自己的体系。

L1级别:AI大模型时代的华丽登场

L2级别：AI大模型API应用开发工程

L3级别：大模型应用架构进阶实践

L4级别：大模型微调与私有化部署

一般掌握到第四个级别，市场上大多数岗位都是可以胜任，但要还不是天花板，天花板级别要求更加严格，对于算法和实战是非常苛刻的。建议普通人掌握到L4级别即可。

以上的AI大模型学习路线，不知道为什么发出来就有点糊，高清版可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

四、AI大模型商业化落地方案

作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。