首个DeepSeek-R1开源复现：Open-R1正式亮相

最新推荐文章于 2025-03-08 16:25:46 发布
最新推荐文章于 2025-03-08 16:25:46 发布
阅读量4k 收藏 34
点赞数 25
文章标签： 开源 大模型项目 大模型教程 人工智能 Agent 大模型 DeepSeek
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_65555479/article/details/145404397
版权

1. Open-R1 项目概述2. 环境搭建与依赖安装3. 模型训练、评估与数据生成3.1 模型训练3.2 模型评估3.3 数据生成4. 项目成果与展望

github链接：https://github.com/huggingface/open-r1

在人工智能的蓬勃发展进程中，模型的创新与迭代令人目不暇接。近期，DeepSeek-R1 以其出色的性能和较低的成本在 AI 领域掀起波澜，而 huggingface 推出的 Open-R1 项目，则致力于对 DeepSeek-R1 进行全开源复现，为 AI 社区带来了新的活力与探索方向。

1. Open-R1 项目概述

Open-R1 由 huggingface 打造，旨在构建 DeepSeek-R1 流程中缺失的部分，让开发者能够复现并基于其进行二次开发。项目结构简洁明了，核心部分主要包括：

  • src/open_r1 文件夹：包含用于训练和评估模型以及生成合成数据的脚本。

  • grpo.py负责运用 GRPO 算法在特定数据集上训练模型；

  • sft.py用于执行模型的监督微调（SFT）；

  • evaluate.py对模型进行 R1 基准测试评估；

  • generate.py借助 Distilabel 从模型生成合成数据 。

  • Makefile：整合了 R1 流程各步骤的便捷运行命令，这些命令依托上述脚本，极大地简化了开发流程。

项目以 DeepSeek-R1 技术报告为指引，规划了清晰的实施路径：

  • 第一步：复现 R1-Distill 模型：从 DeepSeek-R1 中提取高质量语料库，以此复现 R1-Distill 模型。

  • 第二步：复现纯 RL 流程：重现 DeepSeek 创建 R1-Zero 的纯强化学习（RL）流程，这可能需要为数学、推理和代码领域构建新的大规模数据集。

  • 第三步：多阶段训练验证：展示通过多阶段训练，能将基础模型转化为经过 RL 调整的模型。

2. 环境搭建与依赖安装

Open-R1 项目依赖 CUDA 12.1，在安装前务必确认系统符合要求，以免出现段错误。

创建虚拟环境并升级 pip：可使用uv工具创建 Python 虚拟环境，安装uv后执行如下命令（uv安装文档 https://docs.astral.sh/uv/getting-started/installation/）

uv venv openr1 --python 3.11 && source openr1/bin/activate && uv pip install --upgrade pip

安装 vLLM：CUDA 12.1 环境下，运行下面的命令

uv pip install vllm==0.6.6.post1``   ``# For CUDA 12.1``pip install vllm==0.6.6.post1 --extra-index-url https://download.pytorch.org/whl/cu121``export LD_LIBRARY_PATH=$(python -c "import site; print(site.getsitepackages()[0] + '/nvidia/nvjitlink/lib')"):$LD_LIBRARY_PATH

vLLM 的安装会连带安装 PyTorch v2.5.1，此版本务必保持一致。

安装其余依赖：根据具体使用场景，执行pip install -e.[LIST OF MODES] ，对于多数开发者，建议使用pip install -e ".[dev]"。

登录账号与检查 Git LFS：登录 Hugging Face 和 Weights and Biases 账号，分别执行

huggingface-cli login``wandb login

检查系统是否安装 Git LFS，若未安装，使用sudo apt-get install git-lfs进行安装。

3. 模型训练、评估与数据生成

3.1 模型训练

Open-R1 支持 DDP 和 DeepSpeed（ZeRO-2、ZeRO-3）两种训练方式，切换时只需调整configs文件夹中加速器 YAML 配置文件路径。以配备 8 块 H100（80GB）显卡的节点为例，训练命令如下：

  • SFT 阶段：使用accelerate launch --config_file=configs/zero3.yaml src/open_r1/sft.py启动，配置模型、数据集、学习率等参数，如针对Qwen/Qwen2.5-Math-1.5B-Instruct模型在HuggingFaceH4/Bespoke-Stratos-17k数据集上训练。
accelerate launch --config_file=configs/zero3.yaml src/open_r1/sft.py \`    `--model_name_or_path Qwen/Qwen2.5-Math-1.5B-Instruct \`    `--dataset_name HuggingFaceH4/Bespoke-Stratos-17k \`    `--learning_rate 2.0e-5 \`    `--num_train_epochs 1 \`    `--packing \`    `--max_seq_length 4096 \`    `--per_device_train_batch_size 4 \`    `--per_device_eval_batch_size 4 \`    `--gradient_accumulation_steps 4 \`    `--gradient_checkpointing \`    `--bf16 \`    `--logging_steps 5 \`    `--eval_strategy steps \`    `--eval_steps 100 \`    `--output_dir data/Qwen2.5-1.5B-Open-R1-Distill
  • 若使用 Slurm 调度系统，可运行
sbatch --output=/path/to/logs/%x-%j.out --err=/path/to/logs/%x-%j.err slurm/sft.slurm {model} {dataset} {accelerator}
  • GRPO 阶段：利用accelerate launch --config_file configs/zero3.yaml src/open_r1/grpo.py，设置输出目录、模型、数据集等参数，如对deepseek-ai/DeepSeek-R1-Distill-Qwen-7B模型在AI-MO/NuminaMath-TIR数据集上训练。
accelerate launch --config_file configs/zero3.yaml src/open_r1/grpo.py \`    `--output_dir DeepSeek-R1-Distill-Qwen-7B-GRPO \`    `--model_name_or_path deepseek-ai/DeepSeek-R1-Distill-Qwen-7B \`    `--dataset_name AI-MO/NuminaMath-TIR \`    `--max_prompt_length 256 \`    `--per_device_train_batch_size 1 \`    `--gradient_accumulation_steps 16 \`    `--logging_steps 10 \`    `--bf16

3.2 模型评估

项目使用lighteval评估模型，在src/open_r1/evaluate.py中定义了自定义任务。评估时，根据模型规模和 GPU 资源选择不同策略：

  • 单 GPU 评估：针对小型模型，设置模型、任务等参数后运行lighteval vllm命令，也可使用make evaluate MODEL=deepseek-ai/DeepSeek-R1-Distill-Qwen-32B TASK=aime24简化操作。
`MODEL=deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B``MODEL_ARGS="pretrained=$MODEL,dtype=float16,max_model_length=32768,gpu_memory_utilisation=0.8"``TASK=aime24``OUTPUT_DIR=data/evals/$MODEL``   ``lighteval vllm $MODEL_ARGS "custom|$TASK|0|0" \`    `--custom-tasks src/open_r1/evaluate.py \`    `--use-chat-template \`    `--system-prompt="Please reason step by step, and put your final answer within \boxed{}." \`    `--output-dir $OUTPUT_DIR` 

# 或者使用``make evaluate MODEL=deepseek-ai/DeepSeek-R1-Distill-Qwen-32B TASK=aime24
  • 多 GPU 数据并行评估：通过增加data_parallel_size参数实现，如
`NUM_GPUS=8``MODEL=deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B``MODEL_ARGS="pretrained=$MODEL,dtype=float16,data_parallel_size=$NUM_GPUS,max_model_length=32768,gpu_memory_utilisation=0.8"``TASK=aime24``OUTPUT_DIR=data/evals/$MODEL``   ``lighteval vllm $MODEL_ARGS "custom|$TASK|0|0" \`    `--custom-tasks src/open_r1/evaluate.py \`    `--use-chat-template \`    `--system-prompt="Please reason step by step, and put your final answer within \boxed{}." \`    `--output-dir $OUTPUT_DIR` 

# 或者使用``make evaluate MODEL=deepseek-ai/DeepSeek-R1-Distill-Qwen-32B TASK=aime24 PARALLEL=data NUM_GPUS=8
  • 多 GPU 张量并行评估：针对大型模型，设置tensor_parallel_size参数，如
`NUM_GPUS=8``MODEL=deepseek-ai/DeepSeek-R1-Distill-Qwen-32B``MODEL_ARGS="pretrained=$MODEL,dtype=float16,tensor_parallel_size=$NUM_GPUS,max_model_length=32768,gpu_memory_utilisation=0.8"``TASK=aime24``OUTPUT_DIR=data/evals/$MODEL``   ``export VLLM_WORKER_MULTIPROC_METHOD=spawn``lighteval vllm $MODEL_ARGS "custom|$TASK|0|0" \`    `--custom-tasks src/open_r1/evaluate.py \`    `--use-chat-template \`    `--system-prompt="Please reason step by step, and put your final answer within \boxed{}." \`    `--output-dir $OUTPUT_DIR` 

# 或者使用``make evaluate MODEL=deepseek-ai/DeepSeek-R1-Distill-Qwen-32B TASK=aime24 PARALLEL=tensor NUM_GPUS=8

3.3 数据生成

数据生成可从不同规模模型进行：

  • 从smol蒸馏的R1模型生成数据：在 1 块 H100 显卡环境下，安装命令
uv pip install "distilabel[vllm]>=1.5.2"
  • 编写 Python 脚本调用相关库，从deepseek-ai/DeepSeek-R1-Distill-Qwen-7B模型生成数据，生成数据可推送至 Hugging Face Hub。示例代码如下
from datasets import load_dataset``from distilabel.models import vLLM``from distilabel.pipeline import Pipeline``from distilabel.steps.tasks import TextGeneration``   ``   ``prompt_template = """\``You will be given a problem. Please reason step by step, and put your final answer within \boxed{}:``{{ instruction }}"""``   ``dataset = load_dataset("AI-MO/NuminaMath-TIR", split="train").select(range(10))``   ``model_id = "deepseek-ai/DeepSeek-R1-Distill-Qwen-7B"  # Exchange with another smol distilled r1``   ``with Pipeline(`    `name="distill-qwen-7b-r1",`    `description="A pipeline to generate data from a distilled r1 model",``) as pipeline:``   `    `llm = vLLM(`        `model=model_id,`        `tokenizer=model_id,`        `extra_kwargs={`            `"tensor_parallel_size": 1,`            `"max_model_len": 8192,`        `},`        `generation_kwargs={`            `"temperature": 0.6,`            `"max_new_tokens": 8192,`        `},`    `)`    `prompt_column = "problem"`    `text_generation = TextGeneration(`        `llm=llm,`         `template=prompt_template,`        `num_generations=4,`        `input_mappings={"instruction": prompt_column} if prompt_column is not None else {}`    `)``   ``   ``if __name__ == "__main__":`    `distiset = pipeline.run(dataset=dataset)`    `distiset.push_to_hub(repo_id="username/numina-deepseek-r1-qwen-7b")
  • 从DeepSeek-R1 模型生成数据：使用 2 个节点，每个节点配备 8 块 H100 显卡，安装特定依赖后，运行sbatch slurm/generate.slurm脚本，按需求设置数据集、温度、提示列、模型及输出数据集等参数。安装命令
pip install https://wheels.vllm.ai/221d388cc5a836fa189305785ed7e887cea8b510/vllm-1.0.0.dev-cp38-abi3-manylinux1_x86_64.whl --extra-index-url https://download.pytorch.org/whl/cu121``   ``uv pip install "distilabel[vllm,ray,openai]>=1.5.2"

生成数据命令

sbatch slurm/generate.slurm \`    `--hf-dataset AI-MO/NuminaMath-TIR \`    `--temperature 0.6 \`    `--prompt-column problem \`    `--model deepseek-ai/DeepSeek-R1 \`    `--hf-output-dataset username/r1-dataset

4. 项目成果与展望

Open-R1 项目在短时间内获得了大量关注，收获了众多开发者的 Star。目前，项目已成功复现 Deepseek 在 MATH-500 Benchmark 上的评估结果，不同模型的评估成绩与 DeepSeek 报告中的数据相近，这为项目的进一步发展奠定了坚实基础。

复现命令

sbatch slurm/evaluate.slurm deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B math_500``sbatch slurm/evaluate.slurm deepseek-ai/DeepSeek-R1-Distill-Qwen-7B math_500``sbatch slurm/evaluate.slurm deepseek-ai/DeepSeek-R1-Distill-Qwen-14B math_500``sbatch slurm/evaluate.slurm deepseek-ai/DeepSeek-R1-Distill-Qwen-32B math_500 tp``sbatch slurm/evaluate.slurm deepseek-ai/DeepSeek-R1-Distill-Llama-8B math_500``sbatch slurm/evaluate.slurm deepseek-ai/DeepSeek-R1-Distill-Llama-70B math_500 tp

Open-R1 项目的开源复现意义重大，它促进了 AI 技术的交流与共享，让更多开发者能够深入研究 DeepSeek-R1 背后的技术原理，激发新的创新灵感。

在这里插入图片描述

如何学习AI大模型？

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

在这里插入图片描述

👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

在这里插入图片描述

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

在这里插入图片描述

Deepseek R1 Zero成功复现, 三阶段RL，Response长度涨幅超50%，涌现语言混杂，double-check
强化学习曾小健
02-05 798
这里有很多有意思的设置小细节和中间输出的观察，非常值得深入探索请等后续，几周内我们会写好完整文章~
DeepSeek R1复现
hang on it more longer
02-06 1144
UC伯克利博士生潘家怡和另两位研究人员在CountDown游戏中复现了DeepSeek R1-Zero，项目名为TinyZero。：通过强化学习（RL），验证了3B的基础语言模型能够自我验证和搜索，且成本不到30美金。，从而能够获得更高的分数。此外，还发现额外的指令微调（SFT）并非是必要的。
首个DeepSeek-R1全开源复现Open-R1来了
m0_63171455的博客
01-27 5244
huggingface出品，，短短一天已经冲上1.9k Star，这个仓库仍在建设中。的目标是构建流程中缺失的部分，以便每个人都可以复现并在此基础上进行开发。项目设计简单，主要包含以下内容：src/open_r1 包含用于训练和评估模型以及生成合成数据的脚本：grpo.py：使用GRPO在给定数据集上训练模型。sft.py：在数据集上对模型进行简单的SFT（监督微调）。evaluate.py：在R1基准测试上评估模型。generate.py：使用Distilabel从模型生成合成数据。
【DeepSeek】复现DeepSeek R1？快来看这个Open R1项目实践指南~
qq_38961840的博客
01-28 2903
虽然我们重点要谈 GRPO 和相关训练，但在那之前，还是得对 Open R1 项目的基本结构和运行方式做一个大致了解。项目内多处文件都提示，若想顺利运行，需要提前满足一些环境依赖。从以上可以看到，Open R1 给出了两个“示例奖励函数”——和。：对比回答与 gold solution 是否一致，用 parser 做一些 LaTeX 公式提取，然后判断是否相符。：纯粹检查字符串是否匹配某种模板，比如。在实际项目中，我们可能换成别的，比如针对对话安全性、对话流畅性或其他指标的打分模型，也可能是。
【HuggingFace项目】：Open-R1 - DeepSeek-R1 大模型开源复现计划
yanqianglifei的专栏
01-26 4224
Open-R1 是由 HuggingFace 发布的一个完全开放的项目，旨在通过三个主要步骤复现 DeepSeek-R1 的完整训练流程。这个项目的目标是让更多人能够理解和使用 DeepSeek-R1 的技术方案，从而推动大模型技术的发展和应用。Open-R1 项目通过开源的方式，详细展示了如何从知识蒸馏到强化学习，再到多阶段训练，逐步复现 DeepSeek-R1 的训练流程。这不仅为研究人员提供了宝贵的技术参考，也为大模型的普及和应用奠定了坚实的基础。
Open R1：全球最火爆的DeepSeek R1全开源复现项目（GitHub 19.5k星）
star_nwe的博客
02-14 1245
OpenAI 的 o1 模型展示了，当大型语言模型（LLM）在推理时使用更多计算资源时，它们在解决数学、编程和逻辑推理任务时的表现会显著提高。然而，OpenAI 推理模型背后的训练方法一直是一个保密的内容。DeepSeek-R1 是迄今为止第一个在表现上与 o1 相当甚至更好的开源推理模型（Reasoning LLM）。DeepSeek-R1 详细的技术报告，阐明了其训练方法的关键步骤。这个训练方法包含了几项创新，最引人注目的是。
Open-R1：Deepseek-R1复现项目（包含SFT阶段、GRPO阶段代码详解）
sherlockMa的博客
02-07 7141
DeepSeek-R1的意义在于其通过创新的训练方法和技术突破，为大型语言模型（LLMs）在推理能力、训练效率和成本控制等方面树立了新的标杆。其采用的多阶段训练策略，结合冷启动数据微调、强化学习（RL）和监督微调（SFT），不仅显著提升了模型在复杂推理任务中的表现，还解决了传统单阶段训练方法难以克服的挑战。DeepSeek-R1的训练过程证明了强化学习可以有效提升模型的推理能力，同时其创新的GRPO算法大幅降低了训练成本，使得高性能推理模型的开发更加高效和经济。
DeepSeek-R1复现方案梳理
yanqianglifei的专栏
02-12 1248
在 100 步时，解方程的成功率约为 25%，并且模型开始用文字进行 “推理”;近日，来自UC伯克利的研究团队基于Deepseek-R1-Distilled-Qwen-1.5B，通过简单的强化学习（RL）微调，得到了全新的DeepScaleR-1.5B-Preview。由huggingface组建，目前刚上线2周，发布了最新进展open-r1/update-1，在MATH-500任务上接近deepseek的指标，可以在open-r1/open-r1-eval-leaderboard查看指标的排行榜。
DeepSeek-R1架构拆解：中国大模型“暴力美学”背后的三大核弹级设计
2403_86762465的博客
01-31 1774
DeepSeek-R1的架构革命证明：在AGI的终极战场上，“大力出奇迹”的暴力美学需要前所未有的技术精度。2024年3月，DeepSeek-R1大模型在斯坦福HELM评测中暴力登顶，以1/3的参数量碾压GPT-4——这并非魔法，而是一场精密计算的“技术恐怖袭击”。此刻，硅谷的某个会议室里，一群工程师正在逐行解析这篇论文——他们的咖啡早已冰凉，额头渗出冷汗，因为所有人都清楚：这不仅是架构的差距，更是代际的技术鸿沟。在CLUE中文榜单中，DeepSeek-R1的少样本学习准确率超GPT-4 15个百分点。
DeepSeek-R1:大模型训练技术分析
NLP算法工程师，主要研究人机对话系统、机器翻译算法，文本生成、大模型等算法研究
02-11 1019
DeepSeek-R1的论文介绍中不仅描述了比较完整的技术实现路径，同时也提供了一些失败的实验尝试，这给其他厂商提供了完整的复现方式。先看一下大模型的效果。通过上图可以看到DeepSeek-R1大模型的实验结果几乎与OpenAi-o1-1217结果持平，在一些测试数据上（AIME 2024、MATH-500）评测结果甚至超过了后者。
DeepSeek-R1技术报告
01-23
这项研究不仅开源了模型权重，还提出了两种主要模型：DeepSeek-R1-Zero和DeepSeek-R1，并对它们的区别进行了详细阐释。 #### 模型介绍 **DeepSeek-R1-Zero** 模型在进行强化学习（RL）训练前没有经过监督微调，...
【完整版】DeepSeek-R1大模型学习笔记（架构、训练、Infra、复现代码）
我的技术栈碎碎念空间
02-04 7417
MoE在每次推理时选择性地激活部分模型参数，在不成比例增加计算成本的情况下，可以扩展模型参数。在DeepSeek-V2中就提出了用于FFN层的DeepSeekMoE，DeepSeek-R1在DeepSeek-V2基础上进一步优化。
DeepSeek-R1复现方案解读之「Open-R1」
2401_85390073的博客
02-05 3393
整体grpo原理如下：‍分组采样：对每个问题 ，从旧策略 中采样一组输出 （组大小 比如为16或64）。优势计算：对每个输出 ，计算标准化优势值：其中 是输出 的奖励，优势值通过组内标准化消除全局奖励偏差。目标函数：最大化以下目标，同时约束策略与参考策略的KL散度：其中 控制策略更新的幅度， 调节KL散度惩罚项。奖励函数的设计与应用在模型训练过程中，奖励函数扮演着至关重要的角色，它们指导模型如何优化其行为以适应特定的任务需求。重要性。
DeepseekR1关键点复现验证及思考
最新发布
seaboat——a free boat on the sea.（公众号：远洋号）
03-08 457
整体情况结合业务数据验证DeepseekR1论文中提到的DeepseekR1核心关键点，包括强化学习（GRPO）、推理能力的蒸馏、SFT+COT（Inference Scaling Laws）验证。实验环境及数据模型：Qwen2.5-0.5B-Instruct场景：sql生成。数据：数千样本算力：一张A100卡SFT 与 RLSFT与RL本质相同，都是监督学习，只是sft有明确的标签，而RL只有明...
全球都在复现DeepSeek R1，AI圈炸了！
2401_85390073的博客
01-27 1391
最近，AI圈被一个叫DeepSeek R1的模型刷屏了。这款由中国公司深度求索推出的开源大模型，凭借超低的训练成本和强大的性能，迅速成为全球科技界的“顶流”。从硅谷到学术界，从开发者到投资人，大家都在讨论它，甚至全球顶尖机构都在忙着复现它。这波热潮不仅让AI大模型的发展进入新阶段，也让我们对AI的未来有了更多想象。一、DeepSeek R1为啥这么火？低成本+高性能，真香！DeepSeek R1的厉害之处在于，它用了一种叫“强化学习”的技术，让模型在不需要大量标注数据的情况下，也能学会复杂的推理能力。
开源大模型应用项目：DeepSeek二次开发实战指南！
m0_65555479的博客
02-21 1704
一个轻量级、支持全链路且易于二次开发的大模型应用项目 支持DeepSeek/Qwen2等大模模型基于DeepSeek，快速开发应用，快速获得用户，收割这一波流量，已经有老外基于DeepSeek获得大量用户，中国程序员应该动起来，持续完善deepseek生态这个项目 是，结合了多种先进技术来构建一个功能强大、用户友好的应用。
DeepSeekR1论文精读与部分代码复现
GodGump的博客
03-05 868
DeepSeek-R1-Zero（基础型）通过纯强化学习（Reinforcement Learning, RL）训练范式实现，跳过了传统监督微调（Supervised Fine-Tuning, SFT）预处理阶段，在数学推理、逻辑推导等复杂任务中展现出卓越的zero-shot推理能力。DeepSeek-R1（增强型）创新性地融合多阶段训练体系与冷启动数据策略，在保持RL核心优势的同时，显著提升模型综合性能，其推理能力已实现对标OpenAI顶尖模型。
open-r1本地部署硬件需求
02-06
### Open-R1 本地部署硬件需求 对于Open-R1的本地部署，硬件需求取决于具体的应用场景以及预期的工作负载。基于相似项目的实践经验和现有资料，可以提供如下建议： #### 对于基本功能支持 为了满足Open-R1的基本运行条件，推荐最低配置应至少具备以下规格： - CPU：四核处理器，频率不低于2.5 GHz； - RAM：8 GB DDR4内存； - 存储空间：128 GB SSD硬盘。 此配置适用于轻度至中等程度的任务处理，在这种情况下能够保证系统的稳定性和响应速度[^1]。 #### 中端性能优化 针对更复杂的数据处理任务或是希望获得更好用户体验的情况，则需考虑升级到更高水平的硬件设施： - CPU：六核及以上处理器，频率超过3.0 GHz； - RAM：16 GB DDR4内存； - 存储空间：256 GB NVMe固态驱动器。 这样的设置不仅提升了运算能力，同时也加速了数据读写效率，从而使得整个平台的表现更加流畅高效。 #### 高性能计算环境 当涉及到大规模数据分析、机器学习训练或者其他资源密集型活动时，强烈建议配备顶级硬件来支撑高强度工作负荷： - CPU：八核或更多核心数的企业级CPU； - RAM：32 GB甚至更大容量的DDR4 ECC内存； - 显卡：NVIDIA RTX系列或其他同等级别的GPU设备； - 存储空间：512 GB以上高速NVMe M.2 SSD，并可根据实际需要扩展额外存储介质。 值得注意的是，上述提到的不同档次硬件选择主要依据官方文档和技术社区反馈综合得出，而具体的最优解还需根据个人应用场景做出适当调整。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

程序员辣条

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值