大模型Deepseek的使用_基于阿里云百炼和Chatbox

前言

上篇博文中探索了(本地)部署大语言模型,适合微调、数据高隐私性等场景。随着Deepseek-R1的发布,大语言模型的可及性得到极大提升,应用场景不断增加,对高可用的方案的需求激增。目前Deepseek-R1的使用方案主要包括以下四种:

  • 官网:免费,网页可用;但近期流量大,访问不稳定;
  • 第三方产品,如纳米AI
  • 云服务:收费,需要配置;但较稳定;
  • 本地部署:不适合个人日常使用;

下文介绍了云服务的使用方案。

1. 云服务商

阿里云、华为云、腾讯云等云服务商都提供了云端部署模型。以阿里云百炼大模型服务平台为例,展示了Deepseek API的获取过程。

1)登录阿里云百炼平台

2)开通百炼的模型服务。开通百炼不会产生费用,仅调用、部署、调优模型会产生相应费用(超出免费额度后)。

3)鼠标悬停于页面右上角的image图标,在下拉菜单中单击API-KEY。
在这里插入图片描述

4)在左侧导航栏,选择全部API-KEY我的API-KEY,然后创建(图中位置①)或查看(图中位置②)API Key。
在这里插入图片描述
注意:调用API会产生费用,请不要将API Key以任何方式公开,避免因未经授权的使用造成安全风险或资金损失。

表1. 百炼平台部署的Deepseek模型(2025/2/13)

模型上下文长度(tokens)最大输入(tokens)最大输出(tokens)输入成本(每千Token)输出成本(每千Token)
deepseek-r165,79257,34432,7680.002元0.008元
deepseek-v365,79257,3448,1920.001元0.004元

2. ChatBox

Chatbox‌是一款支持多平台的AI客户端应用,主要用于与本地AI模型交互。它支持Windows、MacOS、Android、iOS、Linux和网页版,适用于各种设备和操作系统‌。

1)访问ChatBox官网,下载安装程序,然后按界面提示完成安装。

2)打开安装完成的ChatBox,按以下步骤进行配置。

在这里插入图片描述
ChatBox配置步骤。其中第三步需要填写的信息如下:
①名称输入:阿里云-DS-R1(自定义名称,不固定)
②API域名输入:https://dashscope.aliyuncs.com/compatible-mode/v1
③API路径输入:/chat/completions
④API密钥输入:API key,具体获取过程参考上节
⑤模型输入:需要使用的DeepSeek模型,此处以deepseek-r1为例;
最后单击保存,完成设置。

3)输入提示词,以下是一个输出示例,包括推理过程、补全和tokens消耗量。
在这里插入图片描述

参考

阿里云百炼平台API key获取

### 阿里云百炼 DeepSeek 使用指南 对于希望集成并使用阿里云百炼DeepSeek服务的应用开发者而言,理解如何通过API调用来实现这一目标至关重要。通常情况下,安装必要的依赖库是第一步操作。 为了开始使用DeepSeek-R1模型,需先确保环境中已正确配置Python以及pip工具。之后可以通过命令`pip install openai`来安装所需的SDK包[^1]。值得注意的是,尽管这里的指令提及了OpenAI,但在处理特定于阿里云的服务时,则应替换为相应的官方推荐软件开发套件或客户端库。 当涉及到具体编码实践方面,可以借鉴一些高效的方法加速对接过程。例如,借助Cursor或其他类似的IDE插件可以帮助用户更便捷地找到合适的API接口及其对应的代码片段实例[^2]。这些资源不仅能够简化初期的学习曲线,还能有效减少实际项目中的错误发生率。 下面给出一段简单的Python代码示例,用于展示如何初始化与发送请求给DeepSeek: ```python import os from aliyunsdkcore.client import AcsClient from aliyunsdkalimt.request.v20181012.TranslateGeneralRequest import TranslateGeneralRequest client = AcsClient( "<your-access-key-id>", "<your-access-key-secret>", "cn-hangzhou" ) request = TranslateGeneralRequest() request.set_SourceLanguage("auto") request.set_TargetLanguage("en") request.set_Text("<text-to-translate>") response = client.do_action_with_exception(request) print(response) ``` 此段程序展示了怎样创建AcsClient对象并与指定区域建立连接;接着设置翻译请求参数并通过do_action_with_exception方法执行异步调用。请注意,在真实应用场景下应当妥善保管访问密钥信息,并遵循安全最佳做法。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值