Azure AI Foundry部署DeepSeek R1&Dify联调


前言

最近,DeepSeek席卷全球,各大云厂商及硬件提供商纷纷加入。Azure也紧跟时事,目前在AI Foundry上已可以快速部署DeepSeek serverless。


一、Azure AI Foundry、DeepSeek R1是什么?

Azure AI Foundry 是一个帮助企业构建和部署人工智能应用程序的平台。它为用户提供了一整套工具和服务,用于开发、测试、部署和管理人工智能模型和解决方案。AI Foundry 通过提供机器学习、数据处理、模型训练和自动化流程等功能,帮助企业加速 AI 项目的实施。

DeepSeek 是一家中国人工智能公司,成立于 2023 年,总部位于浙江省杭州市。该公司专注于开发开源的大型语言模型(LLM),其首个模型 DeepSeek-R1 于 2025 年 1 月发布。DeepSeek-R1 在数学、编程和推理任务上表现出色。


二、使用步骤

1.登录Azure并创建AI Foundry项目

Azure地址:portal.azure.com

①进入AI Foundry界面

创建AI Foundary

②创建AI中心

创建AI中心

③在AI中心中创建对应的AI项目

创建AI项目

④项目创建完成以后,点击跳转到studio界面

进入Studio

⑤模型目录——找到DeepSeek-R1

模型目录-deepseekr1

⑥部署

部署
部署

⑦查看该模型终结点、API密钥

在这里插入图片描述
在这里插入图片描述

2.在Dify中配置DeepSeek R1的信息并进行调用测试

①设置模型供应商
在这里插入图片描述
在这里插入图片描述

②填入相关参数

在这里插入图片描述

③调用测试

调用测试


总结

以上就是如何在Azure上部署DeepSeek以及如何在dify中配置相关参数并完成调用。

1.目前测试结果来看,可能因为dify暂时还未适配deepseek r1的输出格式,导致思考过程和答案同一格式输出,期待后续优化。
2.从这里也能看出,R1的输出token=推理思维链+最终答案。
在这里插入图片描述

### DeepSeek R1 云端部署教程和指南 #### 选择合适的云服务提供商 为了成功部署 DeepSeek R1 模型,建议选择支持 GPU 实例的主要云服务提供商,如 AWS、Google Cloud 或 Azure。这些平台提供了必要的基础设施来处理复杂的机器学习工作负载。 #### 创建虚拟机实例 在所选的云平台上启动一个新的虚拟机 (VM) 实例。确保该实例具有足够的计算能力和内存资源以满足 DeepSeek R1 的需求。推荐配置至少配备 NVIDIA A100 或 V100 GPU 的 VM 类型[^3]。 #### 安装依赖项 连接到新创建的 VM 并安装所需的软件包。这通常涉及设置 Python 环境以及安装 PyTorch 或 TensorFlow 等深度学习框架。具体命令如下所示: ```bash sudo apt-get update && sudo apt-get install -y python3-pip git pip3 install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu117 git clone https://github.com/deepseek-labs/R1.git cd R1 pip3 install . ``` #### 配置存储选项 考虑到模型文件较大,应考虑使用对象存储服务(例如 S3、GCS)保存预训练权重和其他静态资产。这样可以减少磁盘 I/O 压力并提高加载速度。 #### 启动 Web 应用程序接口(API) 最后一步是在服务器上托管 RESTful API 来提供对外部请求的支持。Flask 或 FastAPI 是构建此类应用程序的理想选择之一。下面是一个简单的 Flask 示例: ```python from flask import Flask, request, jsonify import deepseek_r1 as dsr1 app = Flask(__name__) model = dsr1.load_model() @app.route('/predict', methods=['POST']) def predict(): data = request.get_json() result = model.predict(data['input_text']) return jsonify({'output': result}) if __name__ == '__main__': app.run(host='0.0.0.0') ``` 通过以上步骤可以在云端顺利部署 DeepSeek R1 模型,并为其应用开发打下坚实基础。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值