LLM 预训练|SFT监督微调|推理

最新推荐文章于 2025-04-23 11:20:25 发布
最新推荐文章于 2025-04-23 11:20:25 发布
阅读量2k 收藏 28
点赞数 12
分类专栏： LLM 文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Maxcu/article/details/137214383
版权

文章目录

LLM 预训练|SFT监督微调|推理

交叉熵损失

熵（Entropy）是信息论中的一个核心概念，它量化了一个随机变量的不确定性或信息内容。交叉熵（Cross Entropy）进一步发展了这个概念，用于衡量两个概率分布之间的差异。
L = − 1 N ∑ i = 1 N y i , c log ⁡ P ( y ^ i , c ) L = -\frac{1}{N} \sum_{i=1}^{N} y_{i,c} \log P(\hat{y}_{i,c}) L=

最低0.47元/天 解锁文章
开源模型应用落地-LangChain高阶-集成vllm-QWen1.5（一）
热门推荐
没有卑微的工作，只有卑微的心态，与其抱怨，不如埋头实干
04-23 2万+
通过LangChain和Vllm的结合，可以更好地处理对话，提供更智能、更准确的响应，从而提高对话系统的性能和用户体验
一文读懂Langchain：ChatGLM3和ChatGPT的Agent调用分析
羊城迷鹿的博客
12-08 7890
首先下载上面给出的github项目并安装环境，然后想想要测试什么问题。请问下面这个字符串的长度的三次幂是几：XXX，理想情况下，Agent加持的大模型会分析出需要调用获取字符串长度和计算三次幂这两个工具，然后连续调用它们得到正确的结果。所以第一步就是要把这两个工具定义好，在这个项目里，只要在Tool文件夹下定义好xxx.py和xxx.yaml这两个文件，xxx这个工具就算可以使用了，我们对这两个工具的定义如下，注意这些工具的输入和输出都得是字符串。
langchain+qwen1.5-7b-chat搭建本地RAG系统
qq_43814415的博客
05-03 5099
由于语言模型的底层运作基于数学概率，其输出本质上是一系列数值运算结果，因此在模型知识匮乏或不擅长的领域，可能会出现幻觉问题，即生成与现实脱节或错误的内容。RAG通过将检索到的准确且相关的信息作为输入的一部分，降低了幻觉问题的发生几率，使模型生成的内容与现实更为一致。： RAG 通过从知识库、数据库、企业内部数据等外部数据源中检索相关信息，将其注入到模型提示词中，使模型能够利用这些信息进行推理和生成。将召回转为字符串，输入到prompt中，使用模型推理。索引阶段，包含数据读取，切片，向量化，入库。
Windows离线部署vllm
java_Lrui的博客
07-25 6245
由于这个包比较大，在浏览器里点击下载链接右键，提取下载地址，打开迅雷或者其他第三方下载工具，新建下载任务，由于迅雷有国内的CDN加速，一般下载可以跑满带宽。原来需要8个小时的任务，现在几分钟就好了。重启电脑（注意：需要开启 适用于 Liunx 的 Windows 子系统 的设置 才重新启动计算机 如果已开启，则不需要）的 Windows 子系统 的设置（如果未开启，开启之后需要重启电脑）(对于64位系统，版本1903或更高，版本18362或更高。在cmd命令界面查看是否安装成功，出现跟截图一样，则已成功。
阿里 Qwen-Agent：开源Agent开发框架简介
资深程序员，曾自学JAVA，C#，如今从业于网安行业
02-28 2035
Qwen-Agent是一个专门设计用于开发基于大型语言模型（LLM）的应用程序的框架。它不仅支持指令遵循、工具使用、规划和记忆能力，还能够处理从8K到100万tokens的文档，超越了传统长上下文模型的限制。这意味着开发者可以利用Qwen-Agent构建出能够理解和生成自然语言、执行复杂任务的智能代理应用。
windows本地部署vllm,运行deepseek大模型
zxhy0123的博客
02-28 6393
windows本地部署vllm,加载大模型
【LangChain实战】开源模型学习（2）-ChatGLM3
xqdd的专栏
12-03 1467
ChatGLM3 是智谱AI和清华大学 KEG 实验室联合发布的新一代对话预训练模型。ChatGLM3-6B 是 ChatGLM3 系列中的开源模型，在保留了前两代模型对话流畅、部署门槛低等众多优秀特性的基础上，ChatGLM3-6B 引入了如下特性：更强大的基础模型： ChatGLM3-6B 的基础模型 ChatGLM3-6B-Base 采用了更多样的训练数据、更充分的训练步数和更合理的训练策略。
Datawhale AI夏令营第四期大模型应用开发-Task01
weixin_59786087的博客
08-11 1038
首先了解一些背景知识。
【AI认证】Azure AI-102 ：大型语言模型深度解析
海棠AI实验室
01-15 1260
大语言模型 (LLMs) 是一种基于深度学习技术构建的复杂神经网络模型，其核心目标是理解、生成和交互自然语言。这些模型通常基于架构，并采用数十亿甚至数千亿的参数在海量文本数据上进行训练。训练后的 LLMs 能够执行各种复杂的自然语言处理 (NLP) 任务机器翻译 (Machine Translation)：将文本从一种语言自动翻译成另一种语言。问答系统 (Question Answering)：理解用户提出的问题，并给出准确的答案。
【人工智能】解锁 AI 潜能：DeepSeek 大模型迁移学习与特定领域微调的实践
最新发布
一个被知识诅咒的人
04-23 515
随着大型语言模型（LLMs）的快速发展，迁移学习与特定领域微调成为提升模型性能的关键技术。本文深入探讨了 DeepSeek 大模型在迁移学习中的应用，聚焦于其在医疗、金融和教育等领域的微调案例。通过剖析 DeepSeek 的混合专家（MoE）架构、多头潜在注意力（MLA）机制以及多令牌预测（MTP）策略，结合实际代码实现，展示了如何利用高质量数据集和高效微调技术优化模型性能。文章提供了详细的代码示例、数学推导和中文注释，涵盖数据集准备、模型微调、评估与部署的全流程，为研究者和开发者提供了一份全面的实践指南。
《探秘开源多模态神经网络模型：AI 新时代的万能钥匙》
zheng_ruiguo的专栏
01-10 963
在当今数字化浪潮中，人工智能已成为推动各行各业变革的核心力量。其中，多模态模型作为 AI 领域的前沿技术，正逐渐崭露头角。它能够融合文本、图像、音频、视频等多种数据类型，模拟人类的多感官认知方式，对复杂信息进行全方位理解与处理，从而解锁全新的应用场景与无限可能。与闭源模型不同，开源多模态模型秉持开放、共享的精神，将源代码、模型架构、训练数据等宝贵资源向公众公开。这意味着，无论是科研人员、开发者，还是普通爱好者，都能深入探究模型的内在机制，依据自身需求对其进行定制、优化与拓展。
本地部署 vllm
engchina的专栏
12-25 5040
本地部署 vllm
[用vLLM和Langchain提升LLM推理和服务效率]
nseejrukjhad的博客
10-02 748
vLLM为大规模语言模型的推理和服务提供了出色的性能和便利性。通过结合Langchain，可以灵活构建AI应用并应对复杂的推理任务。vLLM官方文档Langchain指南。
可简化并加速 LLM 应用程序开发，LangChain 与 vLLM 结合使用教程
XLionXxxx的博客
02-14 456
选择「NVIDIA GeForce RTX 4090」以及「vLLM」镜像，OpenBayes 平台上线了新的计费方式，大家可以按照需求选择「按量付费」或「包日/周/月」，点击「继续执行」。LangChain 是提供构建复杂操作链的工具，而 vLLM 专注于高效的模型推理，两者结合应用可以简化并加速智能 LLM 应用程序的开发。，在「公共教程」页面，选择「将 LangChain 与 vLLM 结合使用教程」教程。稍等片刻，待系统分配好资源，当状态变为「运行中」后，点击「打开工作空间」。
Firefly调参Baichuan13B
Q的博客
07-18 411
如果使用LoRA或者QLoRA进行训练，本项目仅保存adapter的权重和配置文件，需要将adapter权重与base model进行合并。脚本见script/merge_lora.py，在script文件下执行python merge_lora.py。
【LLM01】基于LangChain+LLM的本地知识库问答：什么是LangChain及langchain的整体组成架构
Alex的博客
04-10 659
过去半年，随着ChatGPT的火爆，直接带火了整个LLM这个方向，然LLM毕竟更多是基于过去的经验数据预训练而来，没法获取最新的知识，以及各企业私有的知识为了获取最新的知识，ChatGPT plus版集成了bing搜索的功能，有的模型则会调用一个定位于 “链接各种AI模型、工具”的langchain的bing功能为了处理企业私有的知识，要么基于开源模型微调，要么更可以基于langchain里集成的向量数据库和LLM搭建本地知识库问答(此处的向量数据库的独特性在哪呢？
TensorFlow相关组件的安装
AAI666666的博客
01-11 2648
TensorFlow相关组件的安装
LangChain+LLM实战：从单文档到批量文档，构建本地知识库问答系统
2401_84204207的博客
04-16 864
过去半年，随着ChatGPT的火爆，直接带火了整个LLM这个方向，然LLM毕竟更多是基于过去的经验数据预训练而来，没法获取最新的知识，以及各企业私有的知识为了获取最新的知识，ChatGPT plus版集成了bing搜索的功能，有的模型则会调用一个定位于 “链接各种AI模型、工具”的langchain的bing功能为了处理企业私有的知识，要么基于开源模型微调，要么更可以基于langchain里集成的向量数据库和LLM搭建本地知识库问答(此处的向量数据库的独特性在哪呢？
探索 VLLM：一款高效、灵活的可视化编程环境
gitblog_00057的博客
03-19 866
探索 VLLM：一款高效、灵活的可视化编程环境 vllmA high-throughput and memory-efficient inference and serving engine for LLMs项目地址:https://gitcode.com/gh_mirrors/vl/vllm 是一个创新的开源项目，旨在提供一个集成了代码编写、测试和可视化的强大平台。该项目以直观的图形界面与现代...
ModuleNotFoundError: No module named 'milvus_lite' windows
03-14
<think>好的，我现在需要帮助用户在Windows系统上解决ModuleNotFoundError: No module named 'milvus_lite'的问题。首先，我得回顾一下用户提供的引用内容，看看有没有相关的信息。引用[2]中提到安装Milvus Lite的命令是pip install -U pymilvus，但用户遇到的问题是找不到milvus_lite模块，这可能意味着安装的库名称不正确或者安装步骤有误。 首先，我需要确认用户是否正确安装了正确的包。根据引用[2]，安装命令是pymilvus，但用户导入的是milvus_lite，这可能存在混淆。因此，我应该检查milvus_lite和pymilvus之间的关系。可能的情况是，用户需要安装的包名称不是milvus_lite，而是pymilvus，或者milvus_lite是pymilvus的一部分？ 接下来，查阅引用[3]提到的项目地址，访问项目页面查看文档是否有说明。可能Milvus Lite的安装方式或者模块导入名称与用户尝试的不同。例如，可能正确的导入应该是from pymilvus import MilvusLite之类的结构，而不是直接导入milvus_lite。 另外，需要考虑Windows系统的兼容性问题。某些库可能对操作系统有特定要求，或者在Windows上需要额外的步骤。例如，可能需要安装特定的依赖项或者使用管理员权限运行命令。 然后，用户可能没有正确安装库，或者安装路径不在Python的环境变量中。需要检查是否使用了正确的Python环境，特别是在有多个Python版本或虚拟环境的情况下。建议用户运行pip show pymilvus来确认是否已安装，并检查安装位置是否在sys.path中。 还有可能，milvus_lite是一个子模块，或者需要额外的步骤启用。例如，某些库需要安装后执行初始化命令，或者有特定的版本要求。用户可能需要升级pip，或者安装特定版本的库。 总结可能的解决步骤： 1. 确认安装正确的包名称，可能应该是pymilvus而非milvus_lite。 2. 检查导入语句是否正确，可能需要使用from pymilvus import ...。 3. 确保在正确的Python环境中安装，并检查路径。 4. 确认操作系统兼容性，可能需要查看官方文档的Windows安装指南。 5. 如果问题依旧，可能需要安装其他依赖项或联系支持。 现在需要验证这些可能性。首先，查看pymilvus的官方文档，确认其安装和导入方式。例如，在PyPI页面，pymilvus的文档可能说明如何导入Milvus Lite。假设文档中提到，Milvus Lite作为pymilvus的一部分，可能需要特定的导入方式，如from pymilvus import MilvusLite，或者需要先初始化。 此外，用户可能在代码中错误地写成了import milvus_lite，而正确的应该是import pymilvus，或者from pymilvus import ...。所以需要用户检查代码中的导入语句是否正确。 另一个可能性是，Milvus Lite需要额外的安装步骤，比如在安装pymilvus之后，还需要启用某个组件。或者，Milvus Lite可能是一个独立的库，但名称不同，用户需要安装另一个包。 根据引用[3]的项目地址，可能Milvus Lite的安装方式有所不同。例如，可能需要从GitHub源码安装，或者使用特定的安装命令。用户可能需要使用pip install git+https://gitcode.com/gh_mirrors/em/embd-milvus.git或其他方式安装。 综上，解决步骤可能是： 1. 使用正确的安装命令，如pip install pymilvus。 2. 确保导入语句正确，如from pymilvus import MilvusLite。 3. 检查Python环境和路径。 4. 根据官方文档确认Windows的安装步骤，可能需要安装依赖项如C++构建工具。 5. 如果问题依旧，尝试从源码安装或联系社区支持。 需要将这些步骤整理成用户友好的指南，确保他们逐步执行，避免遗漏关键点。同时，生成相关问题，帮助用户深入理解问题。</think>### 解决Windows系统下`ModuleNotFoundError: No module named 'milvus_lite'`的步骤 #### 1. **确认安装的包名称** - **问题根源**：`milvus_lite`可能并非官方包名称。Milvus Lite的正确安装包是`pymilvus`，需通过以下命令安装： ```bash pip install -U pymilvus ``` 引用[2]中明确提到安装命令为`pip install -U pymilvus`，而非`milvus_lite`[^2]。 #### 2. **验证Python环境** - 确保安装时使用的Python环境与代码运行的环境一致。检查路径： ```bash python -m pip show pymilvus ``` - 若未找到包，尝试使用绝对路径安装： ```bash C:\Python39\python.exe -m pip install pymilvus ``` #### 3. **检查导入语句** - 正确导入方式应为： ```python from pymilvus import MilvusLite ``` - **常见错误**：直接使用`import milvus_lite`会触发模块未找到，因为包名是`pymilvus`[^3]。 #### 4. **Windows系统依赖项** - 安装Microsoft Visual C++ Build Tools（适用于Python 3.7+），部分库依赖C++编译环境。 - 以管理员身份运行命令提示符，避免权限问题。 #### 5. **从源码安装（备用方案）** - 若标准安装失败，尝试从GitHub源码安装： ```bash pip install git+https://gitcode.com/gh_mirrors/em/embd-milvus.git ``` 引用[3]提供了项目地址，可能需特定分支或版本。 #### 6. **验证安装结果** - 运行以下Python代码检查是否安装成功： ```python import pymilvus print(pymilvus.__version__) ``` --- ### 相关问题 1. **如何在PyCharm中配置Milvus Lite的Python环境？** （需检查项目解释器设置，确保选中安装了`pymilvus`的环境） 2. **Milvus Lite与其他向量数据库的兼容性如何？** （参考文档对比功能接口，如支持的数据类型和查询语法） 3. **Windows系统下如何调试`pymilvus`的依赖冲突？** （使用`pip list`检查版本冲突，或创建虚拟环境隔离依赖） --- ### 引用来源 [^1]: 模块未找到问题通用排查指南。 : `pymilvus`安装命令与快速使用示例。 [^3]: Milvus-Lite开源项目地址与安装说明。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值