一个复刻 DeepSeek 成果的美国开源项目 Open R1

Hugging Face:人工智能领域的创新引擎

Hugging Face 是一家成立于 2016 年的开源人工智能创业公司,总部位于美国纽约。其专注于NLP技术,提供AI模型服务,有一系列预训练模型涉及多领域,构建了完整开源产品矩阵,涵盖自然语言处理库等;建立了AI开发生态,包含开发者社区等;还围绕NLP、Vision等方向为客户提供AI解决方案服务。它是一个机器学习社区协作平台,用户可在上面共享机器学习模型、数据集,展示相关工作成果,分享预先训练的模型、数据集和机器学习项目的演示,并提供各种NLP相关的工具、模型和资源,帮助开发者轻松地构建和部署自然语言处理应用。

Hugging Face由法国人Clément Delangue、Julien Chaumond和Thomas Wolf发起。Clément Delangue是公司的CEO;Julien Chaumond是首席技术官,学数学出身,在巴黎理工大学学的是应用数学专业,又在美国学了一年半的电气工程;Thomas Wolf是首席科学家。

Open R1 项目:复刻 DeepSeek-R1 的成果

Hugging Face 启动的 Open R1 项目,旨在完全复刻 DeepSeek-R1 的训练流程,该项目试图构建R1模型开发过程中缺失的部分,使研究人员和开发者能够重现并在DeepSeek开创性工作的基础上进行拓展。

Open R1 项目采用了明确的三步法:

- 从DeepSeek-R1中提取高质量的推理语料库,复刻R1-Distill模型。
- 重现用于创建R1-Zero的纯强化学习流程。
- 通过多阶段训练展示从基础模型转换为强化学习微调模型的能力。

为支持这些工作,该项目提供了用于模型训练、评估、数据生成和多阶段训练的综合脚本。通过公开提供这些资源,Hugging Face旨在推动先进人工智能模型开发技术的普及,并鼓励人工智能研究领域的社区合作。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值