生成式AI中常说的token是什么?嵌入(Embeddings)是什么意思?为什么现在的AI具有生成能力?AI是怎么和你进行对话的?为什么都说提示词很重要?为什么同一段提示词,同一个AI模型/工具,多问几次可能得到截然不同的结果?
要回答以上这些问题,你需要了解大语言模型(LLM)是如何工作的。知其然,也要知其所以然。
步骤1:分词(Tokenize)
面对一个问题,我们人类的习惯性操作是什么?理解问题。LLM也是一样。
LLM在处理输入文本时,首先使用分词器(Tokenizer)将文本分割成若干小的文本块,即tokens。这些tokens由可变数量的字符组成,随后被转换成高维向量的数值表示,也就是嵌入(embeddings),供模型处理。这一步骤是模型理解语言的基础,类似于人类阅读和解析文本的过程。
分词(Tokenize)是LLM工作的第一步,在这个过程中将输入文本转换为模型可以处理的数值表示。这个过程通常包括以下几个步骤:
-
文本分割:输入文本首先被分割成若干小的文本块(tokens)。每个token可以是一个单词、部分单词或字符序列。分词的方式取决于具体的分词器算法和模型的需求。例如,BERT模型通常使用WordPiece分词方法,而GPT系列模型使用Byte Pair Encoding (BPE)。
-
Token映射:分割后的tokens被映射到特定的token索引,即整数编码。这些整数编码是模型内部词汇表的一部分。通过这种方式,文本被转换为数值序列,模型可以更高效地进行处理。
-
嵌入(Embeddings):这些整数编码随后被转换为高维向量,这些向量称为嵌入(embeddings)。嵌入是对文本语义信息的密集表示,捕捉了词汇之间的语义关系和上下文信息。嵌入向量在模型的初始层被计算和优化,以便在后续的模型层中进行处理。
步骤2:预测(Predict)
在完成分词和嵌入后,LLM进入核心的预测阶段。这一过程通过多层神经网络和注意力机制来完成,以确保生成的文本在语法和语义上都是合理的。自注意力机制(Self-Attention)允许模型在生成文本时关注输入序列中的不同部分,从而理解单词之间的依赖关系。例如,Transformer架构通过自注意力机制有效地捕捉长距离依赖关系,并能够高效并行地进行计算。
-
输入处理:模型接收n个输入tokens的嵌入表示。通过多层的神经网络(通常是基于Transformer架构的层),这些嵌入被处理以捕捉词与词之间的依赖关系和上下文信息。
-
自注意力机制:在每一层中,模型使用自注意力机制来计算每个token与其他token的关系。自注意力机制允许模型在处理当前token时考虑整个输入序列的上下文。这对于生成连贯和上下文相关的文本至关重要。
-
前馈神经网络:经过自注意力机制处理的输出被传递给前馈神经网络层,进一步进行非线性变换和特征提取。经过多层的自注意力和前馈处理后,模型生成用于预测的特征表示。
步骤3:概率分布和选择(Probability Distribution & Selection)
在生成文本时,LLM会为每个可能的下一个token计算一个概率分布。然后,模型会选择概率最高的token作为输出,或者通过引入随机性来选择token,从而模拟创造性思维。这种随机性的引入是为了增加模型输出的多样性,避免每次生成相同输入的相同文本。
-
概率分布计算:模型为每个可能的下一个token计算一个概率分布。这些概率反映了每个token在当前上下文中作为下一个token的可能性。概率分布是通过softmax函数计算的,确保所有可能token的概率之和为1。
-
选择输出token:根据计算出的概率分布,模型选择一个token作为输出。通常会选择概率最高的token,但为了增加生成文本的多样性和创造性,模型有时会引入随机性。这种随机性可以通过“温度Temperature”参数进行调整,温度越高,生成的文本越随机。
-
迭代生成:选择的输出token会被加入到输入序列中,模型重新进行上述步骤,以生成下一个token。这种迭代过程一直持续,直到生成完整的句子或文本。
结语
知其然,更要知其所以然。
生成式AI中常说的token是什么?
Token是LLM处理文本的最小单位,可以是一个单词、部分单词或字符序列。分词器将文本分割成tokens,并将其映射为数值表示,供模型处理。
嵌入(Embeddings)是什么意思?
嵌入是将tokens转换为高维向量的过程,这些向量捕捉了词汇之间的语义关系和上下文信息,是模型理解语言的基础。
为什么现在的AI具有生成能力?
LLM通过大规模数据训练和复杂的神经网络结构,能够预测并生成符合上下文的文本。这种能力源自模型对语言模式的深度学习和对上下文的理解。
AI是怎么和你进行对话的?
AI通过接收你的输入,进行分词和嵌入,然后预测下一个可能的token,生成回应文本。这个过程是连续且动态的,确保对话的连贯性和相关性。
为什么都说提示词很重要?
提示词(prompts)是模型生成内容的起点,好的提示词能引导模型生成更符合预期的高质量文本。
为什么同一段提示词,同一个AI模型/工具,多问几次可能得到截然不同的结果?
这是因为模型在选择输出token时引入了随机性,尤其是温度参数较高时。这种随机性模拟了创造性思维,确保生成的文本多样性。
如何系统的去学习大模型LLM ?
作为一名热心肠的互联网老兵,我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。
但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的 AI大模型资料
包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
😝有需要的小伙伴,可以V扫描下方二维码免费领取🆓
一、全套AGI大模型学习路线
AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!
二、640套AI大模型报告合集
这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
三、AI大模型经典PDF籍
随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。
四、AI大模型商业化落地方案
阶段1:AI大模型时代的基础理解
- 目标:了解AI大模型的基本概念、发展历程和核心原理。
- 内容:
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
- L1.4.1 知识大模型
- L1.4.2 生产大模型
- L1.4.3 模型工程方法论
- L1.4.4 模型工程实践 - L1.5 GPT应用案例
阶段2:AI大模型API应用开发工程
- 目标:掌握AI大模型API的使用和开发,以及相关的编程技能。
- 内容:
- L2.1 API接口
- L2.1.1 OpenAI API接口
- L2.1.2 Python接口接入
- L2.1.3 BOT工具类框架
- L2.1.4 代码示例 - L2.2 Prompt框架
- L2.2.1 什么是Prompt
- L2.2.2 Prompt框架应用现状
- L2.2.3 基于GPTAS的Prompt框架
- L2.2.4 Prompt框架与Thought
- L2.2.5 Prompt框架与提示词 - L2.3 流水线工程
- L2.3.1 流水线工程的概念
- L2.3.2 流水线工程的优点
- L2.3.3 流水线工程的应用 - L2.4 总结与展望
- L2.1 API接口
阶段3:AI大模型应用架构实践
- 目标:深入理解AI大模型的应用架构,并能够进行私有化部署。
- 内容:
- L3.1 Agent模型框架
- L3.1.1 Agent模型框架的设计理念
- L3.1.2 Agent模型框架的核心组件
- L3.1.3 Agent模型框架的实现细节 - L3.2 MetaGPT
- L3.2.1 MetaGPT的基本概念
- L3.2.2 MetaGPT的工作原理
- L3.2.3 MetaGPT的应用场景 - L3.3 ChatGLM
- L3.3.1 ChatGLM的特点
- L3.3.2 ChatGLM的开发环境
- L3.3.3 ChatGLM的使用示例 - L3.4 LLAMA
- L3.4.1 LLAMA的特点
- L3.4.2 LLAMA的开发环境
- L3.4.3 LLAMA的使用示例 - L3.5 其他大模型介绍
- L3.1 Agent模型框架
阶段4:AI大模型私有化部署
- 目标:掌握多种AI大模型的私有化部署,包括多模态和特定领域模型。
- 内容:
- L4.1 模型私有化部署概述
- L4.2 模型私有化部署的关键技术
- L4.3 模型私有化部署的实施步骤
- L4.4 模型私有化部署的应用场景
学习计划:
- 阶段1:1-2个月,建立AI大模型的基础知识体系。
- 阶段2:2-3个月,专注于API应用开发能力的提升。
- 阶段3:3-4个月,深入实践AI大模型的应用架构和私有化部署。
- 阶段4:4-5个月,专注于高级模型的应用和部署。
这份完整版的大模型 LLM 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】
😝有需要的小伙伴,可以Vx扫描下方二维码免费领取🆓