DeepSeek R1 Distill Llama 70B（免费版）API使用详解

已于 2025-02-06 23:51:40 修改
阅读量7.2k 收藏 34
点赞数 52
分类专栏： 人工智能 文章标签： 人工智能
于 2025-02-06 23:49:15 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_39777550/article/details/145483917
版权

DeepSeek R1 Distill Llama 70B（免费版）API使用详解

在人工智能领域，随着技术的不断进步，各种新的模型和应用如雨后春笋般涌现。今天，我们要为大家介绍的是OpenRouter平台上提供的DeepSeek R1 Distill Llama 70B（免费版）API。这款API基于Llama-3.3-70B-Instruct模型，通过DeepSeek R1的输出进行了精细调优，使其在多个基准测试中表现出色，性能堪比更大的前沿模型。

一、模型概述

DeepSeek R1 Distill Llama 70B是一个经过蒸馏的大型语言模型，其核心在于结合了先进的蒸馏技术，以实现高性能。这一模型不仅继承了Llama系列模型的优势，还在此基础上进行了优化，使其在处理自然语言任务时更加高效和准确。

二、API使用介绍

  1. API接入(API申请见文末)

    OpenRouter提供了一个与OpenAI兼容的完成API，用户可以直接调用，或者使用OpenAI SDK。此外，还支持一些第三方SDK，为开发者提供了极大的便利。

  2. API调用示例

    以下是使用TypeScript和Python进行API调用的示例代码：

    • TypeScript示例：
import OpenAI from "openai";

 const openai = new OpenAI({
   
   baseURL: "https://openrouter.ai/api/v1",
   apiKey: "<OPENROUTER_API_KEY>"
最低0.47元/天 解锁文章
DeepSeek-R1-Distill-Qwen-1.5B：最佳小型LLM？
李孟的博客
01-26 1万+
DeepSeek-R1-Distill-Qwen-1.5B，这款紧凑高效的模型在数学和推理任务中表现出色，在关键基准测试中超越了GPT-4o和Claude 3.5。
《DeepSeek-R1：使用说明译文》：此文为AI自动翻译
zheng_ruiguo的专栏
01-29 2485
DeepSeek-R1 在数学、代码和推理任务方面的性能可与 OpenAI-o1 相媲美。 为了支持研究社区，我们开源了 DeepSeek-R1-Zero、DeepSeek-R1 以及基于 Llama 和 Qwen 从 DeepSeek-R1 提炼出来的六个密集模型。DeepSeek-R1-Distill-Qwen-32B 在各种基准测试中都优于 OpenAI-o1-mini，为密集模型实现了新的先进结果。
deepseek各个版本的区别
keyboard专栏
02-05 8818
deepseek版本
DeepSeek本地部署之deepseek-r1-distill-llama-70b 本地部署与 AI 应用实践
m0_60674045的博客
02-08 1万+
已更新实测有效的硬件配置方案。近年来，大型语言模型（LLM）的快速发展为企业数字化带来了前所未有的机遇。然而，中小企业在使用诸如 GPT-4 这类云端大模型服务时，往往面临数据隐私、使用成本和网络依赖等方面的挑战。本地化部署大型模型成为一种趋势：将模型部署在企业自己的服务器上，数据不出内网，既保证了敏感信息的安全，又能根据企业需求对模型进行定制优化。是一款备受关注的开源大语言模型，参数规模高达 700 亿。作为 DeepSeek 系列的高性能版本，它在多个基准测试中表现出色。
deepseek本地部署：deepseek-r1-distill-llama-70b应用实践
最新发布
鹿鸣天涯
03-04 1777
近年来，大型语言模型（LLM）的快速发展为企业数字化带来了前所未有的机遇。然而，中小企业在使用诸如 GPT-4 这类云端大模型服务时，往往面临数据隐私、使用成本和网络依赖等方面的挑战。本地化部署大型模型成为一种趋势：将模型部署在企业自己的服务器上，数据不出内网，既保证了敏感信息的安全，又能根据企业需求对模型进行定制优化。是一款备受关注的开源大语言模型，参数规模高达 700 亿。作为DeepSeek系列的高性能版本，它在多个基准测试中表现出色。
模型蒸馏：DeepSeek-R1-distill-llama-70B
keyboard专栏
02-05 1147
蒸馏过程中，教师模型首先对输入数据生成输出概率分布，这些输出被称为“软目标”（soft targets）。生模型则通过学习这些软目标，来近似教师模型的行为。直接使用真实标签（硬目标）进行训练相比，软目标提供了类别之间更丰富的关系信息，有助于学生模型更好地泛化。模型蒸馏（Model Distillation）是一种模型压缩技术，旨在将一个复杂的大型模型（称为教师模型）的知识转移到一个较小的模型（称为学生模型）中。过这种方式，学生模型能够在保持性能的同时，显著降低计算资源的需求。
DeepSeek R1 简易指南：架构、本地部署和硬件要求
m0_74825003的博客
02-05 1047
从DeepSeek-R1-Zero到DeepSeek-R1，代表了研究中的一个重要学习历程。DeepSeek-R1-Zero 证明了纯粹的强化学习是可行的，而 DeepSeek-R1 则展示了如何将监督学习与强化学习相结合，从而创建出能力更强、更实用的模型。“本文所述技术参数均来自公开研究文献，实际部署需遵守当地法律法规”最后：React Hook 深入浅出CSS技巧与案例详解vue2与vue3技巧合集VueUse源码解读。
DeepSeek-R1/Zero、RL GRPO以及蒸馏过程详解
02-11 1705
传统方法：老师先教 1000 道例题（SFT 数据），学生模仿练习。R1-Zero 方法：直接扔给学生 100 万道题，配一台“自动批改机”。学生自己摸索解法，机器实时反馈对错。最终，学生总结出一套高效的解题套路，甚至超越老师教的答案。这就是 R1-Zero 的核心——让 AI 在“题海战术+自动批改”中自我顿悟。传统做法：召集全国名师手写答案 → 耗时十年，成本爆炸。AI 辅助做法Step1：请 10 位名师写 100 道标准答案（冷启动数据）。Step2。
什么是DeepSeek-R1蒸馏模型？
asd8705的专栏
01-22 2万+
所以昨晚，DeepSeek在DeepSeek-V3之后发布了另一个革命性的模型，即DeepSeek-R1和我的孩子，这看起来是一个重大的发布，因为这个模型在几个基准测试中已经超越了OpenAI-o1，即SOTA推理模型。例如，在推理基准测试中，DeepSeek-R1-Distill-Qwen-32B的表现优于DeepSeek-R2-Zero-Qwen-34B，这表明对于较小的模型来说，蒸馏是一种更经济、更有效的方法。蒸馏的目标是使DeepSeek-R1等大型模型的推理能力能够被更小、更高效的模型所利用。
微调DeepSeek-R1-1.5B-Distill模型的自我认知部分
u011460470的博客
02-06 4807
如何微调deepseek-r1-1.5B模型，修改模型的自我认知部分比如想微调一个自己模型，我问他你是谁开发的，要让他回答这个模型是由我们公司独立研发的，这种该怎么实现呢？
DeepSeek-R1 蒸馏模型及如何用 Ollama 在本地运行DeepSeek-R1
llm_way的博客
01-26 1万+
在人工智能飞速发展的领域中，大型语言模型（LLMs）的出现可谓是一项重大变革。在这些模型里，DeepSeek - R1 及其蒸馏模型备受瞩目，它们融合了独特的能力与高可用性。今天我们一起聊一下 DeepSeek - R1 蒸馏模型究竟是什么，它们的工作原理、应用场景，并提供一份使用 Ollama 在本地运行 DeepSeek R1 的详细步骤指南。DeepSeek - R1 蒸馏模型（模型蒸馏（Model Distillation）：AI模型小型化与高效化之道）是强大的 DeepSeek - R1 人工智能
使用BitaHub部署DeepSeek-R1
是我的博客
01-23 1万+
2025 年 1 月 20 日，DeepSeek 发布并开源了最新的推理模型–，性能比肩OpenAI-o1，同时还开源了 6 个R1小模型，使用从 DeepSeek-R1 蒸馏出来的知识去微调 Qwen、Llama，参数包含了1.5B、7B、 8B、14B、32B、70B，能够满足各种场景。本次将使用BitaHub部署DeepSeek-R1-Distill，BitaHub是一个开放的Al和深度学习社区，GPU算力资源有4090、A100 等高性能显卡，提供了全流程的 AI 开发、训练、部署的专业环境。
DeepSeek R1模型解读与使用
2401_85549225的博客
01-22 1万+
下面有个图表，这里可以重点关注DeepSeek-R1-Distill-Qwen-32B这个模型，这也是他们官方标注的，基座采用了Qwen32B的模型，在数学，代码，复杂问题的测试集中跟o1-mini一个水准，远高于GPT4o，Claude3.5-Sonnet，DeepSeek-V3。相比国内的推理模型，价格不算便宜，但性能目前确实最好的，通义千问QWQ预览版输入价格3.5元/百万tokens，输出7元/百万tokens，智谱GLM-ZERO预览版，输入输出10元/百万tokens。这是官方的性能评测图。
Amazon Bedrock如何自定义导入DeepSeek？
awscloud的博客
01-31 996
用自定义模型导入功能，在Amazon Bedrock上部署DeepSeek-R1 Distill Llama模型，无缝集成至Amazon Bedrock环境中，充分利用Amazon Bedrock的Serverless基础设施和统一API。
深度求索DeepSeek-R1模型； Git 代理 AI 助手；多功能的内容创作工具
Androiddddd的博客
01-27 2768
DeepSeek-R1 是由深度求索公司开发的第一代推理模型系列，包括 DeepSeek-R1-Zero 和 DeepSeek-R1 两个主要模型。DeepSeek-R1-Zero: 该模型是通过大规模强化学习（RL）训练，无需预先进行监督微调（SFT），展现出强大的推理能力，并自然涌现出多种推理行为，例如自我验证、反思和生成长链推理（CoT）。这是第一个公开的研究，验证了大型语言模型（LLM）的推理能力可以通过纯 RL 激励，而无需 SFT，为该领域未来的发展铺平道路。
DeepSeek-R1 重磅来袭：比肩 o1且完全开源，API价格极具性价比！
CherryXieのblog
01-21 9067
DeepSeek-R1 是由杭州深度求索公司推出的高性能AI推理模型，于2025年1月20日正式发布。DeepSeek-R1，在强化学习之前整合了冷启动数据。DeepSeek-R1在数学、代码和推理任务方面的性能与OpenAI-o1相当。为了支持研究界，我们开源了DeepSeek-R1-Zero、DeepSeek-R1，以及基于Llama和Qwen从DeepSeek-R1中提取的六个密集模型。
一文速览DeepSeek-R1的本地部署——可联网、可实现本地知识库问答：包括671B满血版和各个蒸馏版的部署(含单卡4090部署671B)
热门推荐
结构之法 算法之道
02-03 6万+
自从deepseek爆火以后，真是应了“人红是非多”那句话，不但遭受各种大规模攻击，即便后来挡住了大部分攻击，但海内外大量闯入deepseek官网一探究竟的网友也把他们的服务器压得不堪重负导致一提问，要么频繁显示：服务器繁忙，请稍后再试，要么回答了 但无法联网，致使我朋友圈内一些不知情的朋友说：看把媒体给能的，各种瞎吹，但其实不过尔尔..怎么办呢？在huggingface上总共有以下几种参数的deepseek R1首先，看推理框架，目前主流的大模型推理框架主要有以下四种：其次，看硬件要求，很显然，不同参数的
DeepSeek R1 Distill (Llama 8B
02-01
### DeepSeek R1 Distill Llama 8B 模型资料、下载与使用教程 #### 下载模型 为了获取 `DeepSeek-R1-Distill-Llama-8B` 模型，可以利用 Hugging Face 提供的工具库来完成这一操作。具体实现如下所示： ```python from huggingface_hub import snapshot_download model_id = "deepseek-ai/DeepSeek-R1-Distill-Llama-8B" local_dir = snapshot_download(repo_id=model_id, local_dir="DeepSeek-R1-Distill-Llama-8B") ``` 这段代码会从指定仓库中拉取所需资源并保存到本地目录[^1]。 #### 模型简介 作为由 DeepSeek 团队开发的第一代推理引擎系列的一部分，该版本特别强调了通过引入先进的算法和技术手段——比如强化学习(RL) 和思维链条(CoT)，旨在显著增强其逻辑处理性能[^2]。 #### 应用场景探讨 尽管存在一些竞争产品试图挑战市场地位，不过就当前可获得的信息来看，在某些特定领域内此款预训练语言模型依旧表现出了独特的优势[^3]。 #### 使用指南 一旦成功安装好上述提及的软件包之后，下一步便是加载已下载好的权重文件进而构建预测管道。下面给出了一段简单的示范脚本用于快速上手体验： ```python from transformers import AutoModelForCausalLM, AutoTokenizer tokenizer = AutoTokenizer.from_pretrained(local_dir) model = AutoModelForCausalLM.from_pretrained(local_dir) input_text = "Once upon a time," inputs = tokenizer(input_text, return_tensors="pt") outputs = model.generate(**inputs, max_length=50) generated_text = tokenizer.decode(outputs[0], skip_special_tokens=True) print(generated_text) ```
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值