如何在百度百舸部署满血版DeepSeek-V3、DeepSeek-R1模型

于 2025-02-07 19:50:20 发布
阅读量737 收藏 1
点赞数 6
文章标签： 百度
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_48493350/article/details/145501448
版权

百度百舸·AI异构计算平台已支持快速部署DeepSeek-V3、DeepSeek-R1及其蒸馏的Llama、Qwen等小规模dense模型。您可以登录百度百舸平台快速部署DeepSeek系列模型体验模型效果。

开通轻量计算实例

开通一台H20（ebc.lgn7t.c208m2048.8h20.4d）规格的计算实例并添加到百度百舸·AI异构计算平台。详细开通步骤，请查看：https://cloud.baidu.com/doc/AIHC/s/om6rwjfrx#%E9%99%84%E5%BD%95

在这里插入图片描述

部署vLLM

在百度百舸平台的左侧导航中选择「工具市场」页面，部署工具vLLM。
在这里插入图片描述

模型推理

vLLM部署成功，登录实例下载模型并启动vLLM服务，安装WebUl客户端。
在这里插入图片描述

发送请求开始对话。
在这里插入图片描述

各系列模型的推荐配置清单
在这里插入图片描述

在完成满血版DeepSeek模型的快速部署后，百度百舸·AI异构计算平台还能为这些在线服务提供全生命周期管理、自研框架推理加速、推理资源碎片整理等能力。在保障服务稳定性的同时，有效降低推理成本并提升推理性能。

访问百度百舸页面https://cloud.baidu.com/product/aihc.html，感受服务稳定性与成本效益的双重提升！

博客
百度智能云千帆携手联想，共创MCP生态宇宙
05-13 463
5月7日，2025联想创新科技大会（Tech World）在上海世博中心举行，本届大会以“让AI成为创新生产力”为主题。会上，联想集团董事长兼CEO杨元庆展示了包括覆盖全场景的超级智能体矩阵，包括个人超级智能体、企业超级智能体、城市超级智能体、新一代联想推理加速引擎以及与国际足联（FIFA）世界杯的技术合作成果。其中，百度智能云千帆应用开发平台AppBuilder作为AI终端智能体创新产业专委会联盟副理事单位及分论坛嘉宾参会。会上，参会的嘉宾们特别讨论了MCP协议与生态对于企业超级智能体创想的价值。
博客
6月6日见！你想看的大模型产业落地成果，就在这里！
05-12 13
百度智能云向量数据库以优异成绩通过中国信通院向量数据库性能测试。阅读原文，立即合作咨询。
博客
首批！百度智能云向量数据库以优异成绩通过中国信通院向量数据库性能测试
05-09 624
近日，在中国信通院首批向量数据库性能测试中，百度智能云向量数据库VectorDB（以下简称“百度智能云VectorDB”）顺利完成了向量数据库产品性能测试，成为国内首批完成测试的向量数据库产品。该测试参考国内首个向量数据库性能技术标准《向量数据库性能测试方法》，覆盖稠密向量检索、多向量检索、标量向量融合检索三种常见场景，评估指标涵盖索引构建时间、QPS、平均时延、最大时延、CPU占用、内存占用等多个维度，对性能进行综合评判，为产品选型提供权威参考。深入产业，VectorDB打造最佳实践。
博客
百度智能云客悦·ONE入选“2025中国AI产业逐浪者”榜单
05-08 183
【星辰100】2025中国AI产业逐浪者”榜单的推出，旨在致敬本轮AI大潮中一往无前的弄潮儿，展示AI产业发展中的标杆力量。该榜单历时近半年深度调研，覆盖AI芯片、AI大模型、AI Infra、AI应用层、具身智能五大领域，围绕企业的产品力、商业力、融资力与品牌力四大核心维度展开严格评选，最终遴选出代表中国AI未来的标杆企业。百度智能云客悦在客服、营销领域深耕多年，已落地服务金融、汽车、文旅、快消、政务等十余个行业，帮助数千家企业。以大模型技术为引擎，深化产品创新，探索更多场景应用，携手企业共拓。
博客
双第一！百度智能云持续领跑中国大模型市场
05-07 579
在模型开发层面，千帆平台可以提供全面的模型开发工具链，支持深度思考模型、多模态模型的定制、精调。MCP协议的大模型平台，为用户提供一键调用、一键开发、渠道分发三大关键能力，实现从模型调用、开发到应用落地的闭环支持。相比MaaS市场，AI大模型解决方案市场的参与者更加的丰富，前五的厂商只占到整体市场超一半份额。基于多年在大模型研发与产业落地的深厚积累，百度智能云构建了新一代系统级智能基础设施，为企业大模型应用落地提供最佳解决方案。与此同时，2024年下半年中国AI大模型解决方案市场，百度智能云占比达。
博客
秒级响应破解安全难题！大模型激活鑫海化工发展新动能
05-07 150
在此背景下，河北鑫海化工集团联合百度自主研发的“鑫海化工大模型”正式通过国家网信办备案，成为化工安全应急领域首个完成备案的行业大模型。月，“鑫海化工大模型”通过国家网信办备案，成为化工安全应急领域首个合规落地的行业大模型。通过轻量化调用实现低成本快速接入，结合行业伙伴合作生态，确保服务适配中小企业实际需求，提升安全管理水平。既强化大模型训练基础，又推动行业知识传播，促进信息化升级，形成。支持多模态知识检索与智能问答，覆盖生产规程、安全手册、历史案例等知识库，快速解答员工操作疑问与应急处理流程。
博客
冲刺最后两周！第三届“文心杯“创业大赛报名倒计时！最高7000万投资大奖，报名即送tokens！
05-06 116
前两届大赛总计收到了国内外2500余支创业团队报名，获奖项目覆盖办公、泛文娱、电商、营销、金融、医疗等各个应用方向，获得了超过2亿元级的资金支持，也成为了百度重要的生态伙伴。作为中国大模型领域规格极高、资源投入最重磅的创投赛事，本届大赛将提供总规模近亿元的“现金+资源”组合投资，全面赋能大模型技术创新与应用落地。百度将以“文心杯”为起点，持续加码推动AI基础设施建设及应用落地，通过技术开源、算力普惠和商业资源协同，与开发者共同构建AI原生应用的中国范式。亿元投资+全栈赋能，降低AI应用创业门槛。
博客
冲刺最后两周！第三届“文心杯“创业大赛报名倒计时！最高7000万投资大奖，报名即送tokens！
05-06 40
前两届大赛总计收到了国内外2500余支创业团队报名，获奖项目覆盖办公、泛文娱、电商、营销、金融、医疗等各个应用方向，获得了超过2亿元级的资金支持，也成为了百度重要的生态伙伴。作为中国大模型领域规格极高、资源投入最重磅的创投赛事，本届大赛将提供总规模近亿元的“现金+资源”组合投资，全面赋能大模型技术创新与应用落地。百度将以“文心杯”为起点，持续加码推动AI基础设施建设及应用落地，通过技术开源、算力普惠和商业资源协同，与开发者共同构建AI原生应用的中国范式。亿元投资+全栈赋能，降低AI应用创业门槛。
博客
冲刺最后两周！第三届“文心杯“创业大赛报名倒计时！最高7000万投资大奖，报名即送tokens！
05-06 17
前两届大赛总计收到了国内外2500余支创业团队报名，获奖项目覆盖办公、泛文娱、电商、营销、金融、医疗等各个应用方向，获得了超过2亿元级的资金支持，也成为了百度重要的生态伙伴。作为中国大模型领域规格极高、资源投入最重磅的创投赛事，本届大赛将提供总规模近亿元的“现金+资源”组合投资，全面赋能大模型技术创新与应用落地。百度将以“文心杯”为起点，持续加码推动AI基础设施建设及应用落地，通过技术开源、算力普惠和商业资源协同，与开发者共同构建AI原生应用的中国范式。亿元投资+全栈赋能，降低AI应用创业门槛。
博客
冲刺最后两周！第三届“文心杯“创业大赛报名倒计时！最高7000万投资大奖，报名即送tokens！
05-06 20
前两届大赛总计收到了国内外2500余支创业团队报名，获奖项目覆盖办公、泛文娱、电商、营销、金融、医疗等各个应用方向，获得了超过2亿元级的资金支持，也成为了百度重要的生态伙伴。作为中国大模型领域规格极高、资源投入最重磅的创投赛事，本届大赛将提供总规模近亿元的“现金+资源”组合投资，全面赋能大模型技术创新与应用落地。百度将以“文心杯”为起点，持续加码推动AI基础设施建设及应用落地，通过技术开源、算力普惠和商业资源协同，与开发者共同构建AI原生应用的中国范式。亿元投资+全栈赋能，降低AI应用创业门槛。
博客
冲刺最后两周！第三届“文心杯“创业大赛报名倒计时！最高7000万投资大奖，报名即送tokens！
05-06 18
前两届大赛总计收到了国内外2500余支创业团队报名，获奖项目覆盖办公、泛文娱、电商、营销、金融、医疗等各个应用方向，获得了超过2亿元级的资金支持，也成为了百度重要的生态伙伴。作为中国大模型领域规格极高、资源投入最重磅的创投赛事，本届大赛将提供总规模近亿元的“现金+资源”组合投资，全面赋能大模型技术创新与应用落地。百度将以“文心杯”为起点，持续加码推动AI基础设施建设及应用落地，通过技术开源、算力普惠和商业资源协同，与开发者共同构建AI原生应用的中国范式。亿元投资+全栈赋能，降低AI应用创业门槛。
博客
冲刺最后两周！第三届“文心杯“创业大赛报名倒计时！最高7000万投资大奖，报名即送tokens！
05-06 12
前两届大赛总计收到了国内外2500余支创业团队报名，获奖项目覆盖办公、泛文娱、电商、营销、金融、医疗等各个应用方向，获得了超过2亿元级的资金支持，也成为了百度重要的生态伙伴。作为中国大模型领域规格极高、资源投入最重磅的创投赛事，本届大赛将提供总规模近亿元的“现金+资源”组合投资，全面赋能大模型技术创新与应用落地。百度将以“文心杯”为起点，持续加码推动AI基础设施建设及应用落地，通过技术开源、算力普惠和商业资源协同，与开发者共同构建AI原生应用的中国范式。亿元投资+全栈赋能，降低AI应用创业门槛。
博客
冲刺最后两周！第三届“文心杯“创业大赛报名倒计时！最高7000万投资大奖，报名即送tokens！
05-06 12
前两届大赛总计收到了国内外2500余支创业团队报名，获奖项目覆盖办公、泛文娱、电商、营销、金融、医疗等各个应用方向，获得了超过2亿元级的资金支持，也成为了百度重要的生态伙伴。作为中国大模型领域规格极高、资源投入最重磅的创投赛事，本届大赛将提供总规模近亿元的“现金+资源”组合投资，全面赋能大模型技术创新与应用落地。百度将以“文心杯”为起点，持续加码推动AI基础设施建设及应用落地，通过技术开源、算力普惠和商业资源协同，与开发者共同构建AI原生应用的中国范式。亿元投资+全栈赋能，降低AI应用创业门槛。
博客
全面接入！Qwen3现已上线千帆
04-30 333
针对开源模型的接入，平台系统的进行了工程优化，依托于百度百舸平台针对大模型的PD分离式推理部署方案，支持自适应 PD 任意配比、细粒度 PD 负载均衡、自适应最优混合并行策略、动态冗余专家编排等，降低 40% TPOT 和 95% 推理成本，实现了极致的推理加速优化。千帆大模型平台开源模型进一步扩充，以多维开放的模型服务、全栈模型开发、应用开发工具链、多模态数据治理及安全的能力，为开发者与企业提供更低门槛、更高效率的大模型开发体验，推动大模型技术从“可用”迈向“易用、好用”。
博客
中国自动驾驶研发解决方案，第一！
04-30 17
在这样的趋势下，百度智能云快速完成迭代，将汽车云解决方案已经升级到了3.0版，为车企提供了强大的算力支撑、精准的算法适配、高质量仿真场景及车路协同等核心技术，针对端到端智能驾驶进行了重点的适配，有力推动了自动驾驶的量产落地。智能驾驶进入AI时代，智算基础设施与算法、数据三者协同发展，端到端智驾正成为业内共识，车企和供应商不断加码算力集群采购、新算法架构搭建、仿真测试等资本支出，头部客户算力花销和算力规模正朝着亿级、10EFlops级别演进。目前，百度智能云正加速对头部车企的覆盖，阅读原文，立即合作咨询！
博客
中国信通院联合百度智能云发布《大模型平台落地实践研究报告》
04-30 220
当前以大模型为核心的人工智能技术正加速重塑全球产业格局，成为驱动数字经济高质量发展的核心引擎，企业在大模型落地过程中仍面临多重挑战，制约了大模型从技术研发到商业价值的转化效率，行业亟需一套系统性指引破解落地难题。至今，千帆平台覆盖的客户已经超过。此次中国信通院联合百度智能云发布《大模型平台落地实践研究报告》，将推进大模型平台标准，完善能力评估体系，携手各方共筑大模型落地。大模型平台构建了模型开发、模型服务、应用开发以及运营管理的三横一纵落地框架，打通从模型到应用落地的全链路支撑。
博客
百度智能云x兴业银行，共建金融智能体产业生态
04-29 250
智能体Pro”，相比上一代的单兵作战，它采用多智能体架构，擅长群策群力，能够通过深思熟虑给出更全面的答案，且在多模态、记忆、搜索增强、多工具调用等方面均有突破，进一步提升了智能体应用快速响应业务需求的能力。"技术共研者、生态共建者、价值共享者"的三重身份，提供线上线下结合的技术培训和资源联动服务，为金融智能体联盟提供专属技术资源，共创行业大模型应用解决方案，与联盟生态成员共同探索大模型在典型应用场景的落地，共创行业最佳实践。以构建智能体应用生态为主题，携手百度、中国信息通信研究院、上海银行、海峡银行等。
博客
打破算力瓶颈！起底百度智能云高性能存储加速系统如何让昆仑芯3万卡集群火力全开
04-29 780
我们为RapidFS存储加速服务部署了数百台国产CPU服务器，集群设计总吞吐接近10 TiB/s，以满足3万卡昆仑芯集群大规模数据读写需求。测试结果显示，20个RapidFS存储节点稳定提供了302 GiB/s吞吐，70个RapidFS存储节点稳定提供了1.03 TiB/s吞吐。强大的算力集群，不仅需要高性能的AI加速卡和高性能的RDMA网络，还离不开高性能存储系统的支持。我们分别对20个存储节点和70个存储节点规模的RapidFS集群进行了性能测试。idFS存储节点提供加速的情况下，100个计算节点。
博客
首个云超算国标正式发布！百度智能云CHPC首批通过并获最高评级
04-28 134
CHPC实现无缝业务执行流程与应用性能优化，简化操作步骤，提升工作效率。凭借稳定的服务和高性能表现，目前，CHPC已成功落地于工业制造、生命科学和教育等多个行业，帮助企业降低成本，快速应对市场需求，提升竞争力。CHPC（Cloud HPC）为企业提供了一套覆盖「混合云–资源–管理–应用」全栈HPC解决方案，提升业务计算速度，优化集群使用效率，降低资源使用成本。，（跨多云的HPC）管理实现集群管理操作白屏化，集群、队列、用户资源使用可观测，降低了集群管理成本，并结合智能调度提高资源使用效率10+%。
博客
百度智能云x格灵深瞳：自主进化之力，共筑AI算力新基建
04-28 225
此次合作通过"技术+生态"双轮驱动，不仅将加速AI算力底座国产化替代进程，更将推动政务服务从"数字化"向"智能化"跃迁。百度持续推进开放协同的人工智能生态系统建设，此次合作通过整合技术创新成果与生态资源，实现产业协同创新，在智慧政务领域树立示范性解决方案，并加速AI技术与垂直行业场景的深度渗透。AI数字员工技术规范等标准，推动技术成果产业化，并联合推广“政务AI数字员工”解决方案，构建全产业链AI服务体系。AI应用的价值边界，更为行业树立了"端-边-云"协同的技术标杆。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值