DeepSeek V3 模型微调（SFT）技术详解

最新推荐文章于 2025-03-19 15:08:26 发布
最新推荐文章于 2025-03-19 15:08:26 发布
阅读量2.5k 收藏 5
点赞数
分类专栏： DeepSeek R1& AI人工智能大模型 文章标签： DeepSeek 模型微调
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhangjiaofa/article/details/145183000
版权

DeepSeek V3 模型微调（SFT）技术详解

目录

  1. 引言
  2. 背景知识
    • 2.1 深度学习与预训练模型
    • 2.2 微调（Fine-tuning）的概念
    • 2.3 监督微调（Supervised Fine-tuning, SFT）
  3. DeepSeek V3 模型概述
    • 3.1 模型架构
    • 3.2 预训练任务
    • 3.3 模型性能
  4. 监督微调（SFT）技术详解
    • 4.1 数据准备
      • 4.1.1 数据收集与清洗
      • 4.1.2 数据标注
      • 4.1.3 数据增强
    • 4.2 模型初始化
      • 4.2.1 预训练模型加载
      • 4.2.2 参数初始化策略
    • 4.3 损失函数设计
      • 4.3.1 分类任务中的损失函数
      • 4.3.2 回归任务中的损失函数
      • 4.3.3 多任务学习中的损失函数
    • 4.4 优化器选择与配置
      • 4.4.1 常见优化器介绍
      • 4.4.2 学习率调度策略
    • 4.5 训练过程
      • 4.5
了解本专栏 订阅专栏 解锁全文 超级会员免费看
DeepSeek-V3：模型与权重全面解析
步子哥的博客
12-27 6405
DeepSeek-V3 是开源创新的典范，以其卓越的性能、高效的训练方法和灵活的部署选项，为大语言模型的未来发展奠定了坚实的基础。DeepSeek-V3 是一款开创性的混合专家（Mixture-of-Experts, MoE）语言模型，以其创新的架构设计、高效的训练方法和卓越的性能，成为开源大语言模型领域的标杆。的混合专家语言模型。它在继承 DeepSeek-V2 核心架构的基础上，进行了多项创新，显著提升了模型的性能与效率。，并结合其在实际应用中的表现，带您全面了解 DeepSeek-V3 的技术亮点。
DeepSeek R1 模型详解与微调
zhangjiaofa的专栏
01-23 6302
DeepSeek R1 是一个基于大规模强化学习训练的模型，旨在解决复杂推理任务。其前身 DeepSeek-R1-Zero 通过纯强化学习训练，展示了强大的推理能力，但也存在一些问题，如无尽重复和语言混杂。DeepSeek R1 在 RL 训练前引入了冷启动数据，显著提升了模型的性能和稳定性。强化学习驱动：通过 RL 训练，模型能够自主探索复杂的推理路径。思维链（CoT）支持：模型能够生成多步推理过程，提升复杂问题的解决能力。自我验证与反思：模型在推理过程中能够自我验证和修正错误。
DeepSeek-R1-7b全量微调（SFT）技术教程
2401_84204413的博客
03-19 1508
微调（Fine-tuning）是一种典型的大模型（LLM）后训练技术，通过特定领域的数据对预训练模型的参数进行调整，使其适应新任务或领域。模型本身的权重被修改，从而内化新知识。特别适用于医疗、法律、教育等垂直领域的大模型应用。大模型微调包括有监督微调（SFT）和参数高效微调（PEFT）两种方式。有监督微调（SFT）SFT一般需要对预训练模型所有参数进行更新，所以也叫全参数微调、全量微调。
从零开始的DeepSeek微调训练实战（SFT）
Java癫疯的博客
03-18 1125
前言本文重点介绍使用微调框架unsloth，围绕DeepSeek R1 Distill 7B模型进行高效微调，并介绍用于推理大模型高效微调的COT数据集的创建和使用方法，并在一个medical-o1-reasoning-SFT数据集上完成高效微调实战，并最终达到问答风格优化&知识灌注目的。你能收获什么：亲手完成DeepSeek R1蒸馏模型的微调实战对模型微调、推理数据集等知识有一定了解对大模型运行的机制和原理有一定的了解有机会制作一个属于自己的定制化大模型。
DeepSeek大模型微调实战（理论篇）
python1222_的博客
01-04 8167
在大模型的微调过程中，**LoRA（低秩适配）**参数设置是提升训练效率和性能的关键。通过减少需更新的参数量，LoRA能够在维持模型性能的同时显著降低计算成本。然而，LoRA并非唯一影响训练效果的因素。诸如。
DeepSeek大模型微调实战（超详细实战篇）
热门推荐
2401_85325726的博客
01-11 3万+
*
【架构解析】深入浅析DeepSeek-V3的技术架构
2401_85390073的博客
12-30 2万+
模型层数：61 层隐藏层维度：7168前馈网络维度：18432注意力头数：128词汇表大小：129280最大位置嵌入：163840该模型通过精细的架构设计，实现了在计算效率和性能上的平衡。高性能表现：在编程、数学等任务上取得领先成绩，展现出卓越的智商水平。低成本高效能：以较低的训练成本，实现了与大型闭源模型相当的性能。技术创新：在 FP8 混合精度训练、MLA、无辅助损失负载均衡等方面取得突破。支持超长上下文：通过 YaRN 方法，模型能够处理超长文本，拓展了应用场景。开源共享。
DeepSeek R1 模型解读与微调
LCG元的博客
02-05 2645
DeepSeek R1 模型是 DeepSeek 团队推出的一款重要的大语言模型，旨在通过强化学习提升大型语言模型的推理能力。
deepseek 本地化部署和小模型微调
陈锐的技术笔记
02-03 1万+
因为本人gpu卡的机器系统是centos 7, 直接使用ollama会报所以ollama使用镜像方式进行部署， 拉取镜像ollama/ollama启动命令查看ollama 是否启动成功，Ollama 没有用户界面，在后台运行。打开浏览器，输入 “http://xx:11434/”，显示 “Ollama is running”。deepseek-r1 目前有7b, 32b, 70b, 671b 多个版本
DeepSeek-llm-7B-Chat微调教程
zhishi0000的博客
12-25 1万+
高性价比：DeepSeek-V2模型以其史无前例的性价比著称，推理成本被降到每百万token仅1块钱，约等于Llama3 70B的七分之一，GPT-4 Turbo的七十分之一。架构创新：DeepSeek对模型架构进行了全方位创新，提出崭新的MLA（一种新的多头潜在注意力机制）架构，把显存占用降到了过去最常用的MHA架构的5%-13%，同时，独创的DeepSeekMoESparse结构，也把计算量降到极致。
DeepSeek-coder 微调训练记录
m0_46268825的博客
03-23 5216
微调过程不再细说, 参考进行即可. 主要是1.3b模型微调训练占用资源信息top信息。
10分钟完成情侣约会DeepSeek模型微调，从此告别情场小白
攻城狮的家园
11-08 5463
通过lora对大模型微调，以完成自定义模型。
零基础入门DeepSeek微调：全面教程，轻松掌握！
m0_65555479的博客
03-02 932
微调就像给一个“学霸”补课，让它从“通才”变成某个领域的“专家”。此处以本文进行微调的医学数据进行举例： 假设你有一个很聪明的朋友，他读过全世界的书（相当于大模型的预训练阶段），能和你聊历史、科学、文学等各种话题。但如果你需要他帮你看医学报告段），能和你聊历史、科学、文学等各种话题。但如果你需要他帮你看医学报告，虽然他懂一些基础知识，但可能不够专业。这时候，你给他一堆医学书籍和病例，让他专门学习这方面的知识（这就是微调），他就会变得更擅长医疗领域的问题。功能：深度学习框架，提供张量计算和神经网络构建功能。
DeepSeek大模型微调，家教式全流程实战指南！
2401_84204207的博客
02-19 1797
第一步 Python环境准备具体请见文件 requirements.txt 上方下载↑↑↑第二步 构造数据集本文数据使用.jsonl文件。数据为拟造，仅供试验1.每一行数据为一个json对象，包含一个问题和一个答案2.初学者请注意数据的内容并没有格式要求，只要在后续步骤中能够处理成训练数据即可第三步，数据处理1.加载数据集2.编写数据格式化逻辑下图的逻辑是将问题部分作为输入，答案部分作为标签。
在linux 中搭建deepseek 做微调，硬件配置要求说明
慧香一格的专栏
02-05 7888
DeepSeek 是一个基于深度学习的开源项目，旨在通过深度学习技术来提升搜索引擎的准确性和效率。如果你想在 Linux 系统上搭建 DeepSeek，你可以遵循以下步骤。这里我将提供一个基本的指导，帮助你从零开始搭建一个基础的 DeepSeek 环境。1. 安装依赖首先，确保你的 Linux 系统上安装了 Python 和 pip。DeepSeek 主要使用 Python 开发，因此你需要确保 Python 环境是最新的。bash2. 安装必要的库。
[大模型]DeepSeek-7B-chat Lora 微调
FL1623863129的博客
04-15 3296
LoraConfig这个类中可以设置很多参数，但主要的参数没多少，简单讲一讲，感兴趣的同学可以直接看源码。task_type：模型类型：需要训练的模型层的名字，主要就是attention部分的层，不同的模型对应的层的名字不同，可以传入数组，也可以字符串，也可以正则表达式。rlora的秩，具体可以看Lora原理lora_alphaLora alaph，具体作用参见Lora原理Lora的缩放是啥嘞？当然不是r（秩），这个缩放就是, 在这个LoraConfig中缩放就是4倍。
Dee-seek sft
最新发布
04-04
DeepSeek 是一种基于大规模语言模型的技术框架，其中 DeepSeek-V3 和 SFT（Supervised Fine-Tuning）是其核心组成部分之一。SFT 方法通过监督学习的方式微调预训练模型，使其能够更好地适应特定任务的需求[^2]。 ##...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值