海光DCU部署全攻略：开箱、配置到AI训练的最佳实践

置顶 已于 2025-02-22 23:11:22 修改
阅读量4.5k 收藏 38
点赞数 40
分类专栏： “智元启示录“ - AI发展的深度思考与未来展望 文章标签： 人工智能 服务器 云计算
于 2024-12-15 22:48:32 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/liu1983robin/article/details/144493349
版权

目录

  1. 为什么写这篇文章？
  2. 开箱必读：环境要求
  3. 系统安装：小心这些坑！
  4. DTK：DCU的"大脑"
  5. AI框架配置：从基础到进阶
  6. Faiss向量检索部署
  7. 性能优化：让你的DCU飞起来
  8. 常见问题解决
  9. 日常维护
  10. 结语

你是否正在为部署海光DCU加速卡而烦恼？或者刚拿到DCU，不知道从何下手？别担心，作为一位经历过从踩坑到熟练使用全过程的技术人，今天我要和你分享一份超详细的DCU配置指南。

为什么写这篇文章？

过去半年，我参与了多个使用海光DCU的项目，从最初的配置困惑，到现在能够熟练地在DCU上训练各种AI模型。期间遇到了不少问题，也积累了丰富的经验。我发现网上缺乏一份完整的、与时俱进的DCU使用指南，所以决定写下这篇文章，希望能帮助更多同行少走弯路。

开箱必读：环境要求

首先，让我们明确一下基本要求：

  • 支持的型号：Z100/Z100L/K100（PCIe ID分别为54b7、55b7、62b7）<
了解本专栏 订阅专栏 解锁全文 超级会员免费看
国产加速器海光DCU&GPGPU深度计算处理器快速上手使用步骤
qq_27815483的博客
07-05 3980
海光DCU深度计算处理器快速上手使用步骤
国产加速器海光DCU&GPGPU深算处理器与NVIDIA等其它厂商GPU性能测试对比
qq_27815483的博客
07-11 6989
本文主要介绍国产DCU加速处理器与其它品牌GPU加速卡实测性能对比
海光DCU资源监控 grafana面板
最新发布
04-14
在海光 DCU 资源监控体系中，Grafana 面板发挥着至关重要的作用，为用户提供了直观且强大的数据可视化体验。​ 功能特性​ 丰富数据源集成：Grafana 面板能够轻松对接多种数据源，对于海光 DCU 资源监控而言，可无缝集成从海光 DCU 资源监控脚本获取的数据，也能与 Prometheus 这类时间序列数据库联动。通过插件化接入方式，免去繁琐的接入工作，即使面对复杂的 IT 架构，包括传统服务器环境、Kubernetes 集群，甚至不同云服务环境下的海光 DCU 数据，都能实现高效采集。同时支持 VPC 数据源通道，可达成跨云、跨地域、跨 VPC 的数据访问，确保无论 DCU 部署在何处，其资源数据都能被精准获取并用于可视化展示。​ 多样化可视化呈现：预置了近百种图表组件，能够满足不同类型数据的展示与分析需求。在海光 DCU 资源监控场景中，用户可以利用折线图清晰呈现 DCU 算力利用率随时间的变化趋势，帮助运维人员及时察觉算力使用的波动情况；柱状图则适合对比不同 DCU 之间的显存使用量，方便快速定位显存占用较高或较低的设备；而对于 DCU 的温度分布，热力图能直观展示各 DCU 温度状态，以不同颜色区分温度区间，让运维人员对整体温度状况一目了然，及时发现过热风险点。此外，像 3D 地图、拓扑关系图等异形图表，在大规模 DCU 集群部署场景下，可用于直观展示 DCU 的物理位置分布以及设备间的关联关系，辅助运维人员进行资源管理与故障排查。​ 灵活告警配置：打通了钉钉、飞书、企业微信等常见协同工具，结合低代码事件预处理流程工具，能够实现告警的去重、降噪，有效提升告警的准确度。用户可依据海光 DCU 各项资源指标，如温度阈值、算力利用率上限、显存使用百分比临界值以及功耗异常范围等，灵活制定告警策略。当 DCU 资源使用超出设定阈值时，系统能及时通过已连接的协同工具向
【总结篇】LLM推理环境安装部署全指南
flymyd的博客
02-25 3659
本文介绍了安装WSL2、Ubuntu、NVIDIA显卡驱动、CUDA 12.4.1、cuDNN的方法及Xinference、vLLM、SGLang等推理框架的部署使用方法。本文适用于NVIDIA显卡用户，建议GPU架构为Turing或更新（对应RTX 20系或以上）。
异构计算卡DCU平台部署qwen2.5-instruct-7B
weixin_65416692的博客
02-08 539
DCU（Deep Computing Unit 深度计算器）是 海光（HYGON）推出的一款专门用于 AI 人工智能和深度学习的加速卡。DCU也可以应用于密集型数值计算。例如：DCU Z100 32GB HBM2 PCIE 4.0 x16国产通用GPU卡* 2支持ECC，单块GPU卡显存32GB HBM2，FP64 10.8TFlops，通用计算核心8192。
算力平台和算力卡租用体验
AI_Mind的博客
07-22 4440
体验了其他功能后，数据管理功能还挺好，默认给了500G，比其他家要多不少，开发过程中产生的数据可以直接传输到文件存储里，然后直接下载到本地，相比之前在网盘里相互传输，这种方式便捷性大大提升（应该是超算传统基于IB的共享存储，性能比本地SSD存储要差点儿，不过也还好）。正因为资源比较便宜，已经关机的镜像所使用的机器可能已经被别人使用，因此原来使用的镜像就无法启动，如需使用，只能等这个机器上有空闲资源，或者把镜像保存，导出，迁移到其他机器上使用。2.大厂的产品划分很细，每个产品收点费，合计金额挺贵的。
国产加速器海光DCU&GPGPU Toolkit环境安装与部署
qq_27815483的博客
08-27 5458
国产加速器海光DCU&GPGPU Toolkit环境安装与部署
基于国产加速器海光DCU&GPGPU虚拟化功能用户指南（vDCU&vGPU）
qq_27815483的博客
09-18 3308
本文主要针对vDCU 虚拟化设备插件的安装与初步使用测试进行介绍，包括物理机、容器环境与kubernetes 集群环境下vDCU 设备的使用。
国产加速器海光DCU&GPGPU深算处理器异构编程实战（上）
qq_27815483的博客
08-25 3501
我们也简单概括并比较了CPU和类GPU架构，可以看出CPU和类GPU架构在围绕低延迟和高吞吐量上的架构设计的巨大差异，这种差异必然会导致编程方式上的不同。DCU作为类GPU架构的一种也具有与类GPU相似的特性。因此，我们在详细开展DCU编程介绍之前，首先对DCU系统的硬件架构进行详细的介绍，这样大家在后续章节学习编程和程序优化的时候就会对DCU编程有更深入的理解。本章将会从DCU硬件架构和DCU节点系统架构两个方面开展详细的架构介绍。
国产加速器海光DCU&GPGPU环境介绍
qq_27815483的博客
09-03 1900
国产加速器DCU采用ROCm软件栈作为基础支撑。ROCm（Radeon Open Computing Platform）是首个开源的GPU通用计算平台，是一种轻量级、模块化的GPU软件开发环境，可以提供多种开发工具和运行时环境。ROCm拥有丰富的系统关键功能组件支持，可适用于大规模应用程序计算，编译器及程序运行时组件开发。
Linux并行计算&国产加速器海光DCU&GPGPU深算处理器使用FAQ
qq_27815483的博客
06-28 2716
​ DCU常见问题汇总： 硬件 产品端适配(cpu、加速卡、服务器) 虚拟化 hyqua/k8s/docker等工具 运行环境 dtk底层库 性能调优 深度学习框架/三方库 ​
云轴科技ZStack+海光DCU：率先推出DeepSeek私有化部署方案
ZStack_io的博客
02-06 766
共建生态
2024：盘点10大国产AI芯片
热门推荐
12-06 2万+
燧原科技成立于2018年，专注于研发人工智能领域云端算力产品，提供AI加速卡、系统集群和软硬件解决方案，涵盖芯片、板卡、智算一体机、液冷算力集群以及配套的软件系统，燧原科技的产品的核心竞争点是AI算力，例如其研发的推理加速卡，如云燧i10和云燧i20。昆仑芯科技前身为百度智能芯片及架构部，于2021年4月完成独立融资，原百度芯片首席架构师欧阳剑担任昆仑芯科技CEO，2018年7月发布昆仑芯一代，2021年8月发布昆仑芯二代，目前市场销售的产品以AI加速卡R200和芯AI加速器组R480-X8为主。
基于国产加速器海光DCU&GPGPU的k8s插件dcu-device-plugin安装V2.0.0
qq_27815483的博客
09-20 2923
本文主要针对国产加速器海光DCU 设备插件的安装与初步使用测试进行介绍，包括物理机、容器环境与Kubernetes 集群环境下DCU 设备的调用和监控。
飞桨与海光人工智能加速卡DCU系列完成互证，助力国产AI加速 卡人工智能应用创新...
PaddlePaddle
10-10 1494
近日，百度飞桨深度学习框架与海光人工智能加速卡DCU系列进行了安装部署测试、基本功能测试和稳定性兼容性测试，联合测试结果显示百度飞桨深度学习框架在海光DCU系列以及海光3000、5000、...
国产加速器海光DCU&GPGPU深算处理器程序开发常见问题
qq_27815483的博客
09-05 2764
国产加速器海光DCU&GPGPU深算处理器程序开发常见问题
百度PaddlePaddle深度学习平台如何在国产加速器海光DCU&GPGPU AI并行计算集群上部署使用？
qq_27815483的博客
06-30 1879
本文主要介绍百度PaddlePaddle深度学习框架平台在国产海光DCU AI 并行计算集群的部署安装
Sizing Tool -- 大模型所需GPU计算资源
weixin_43737299的博客
05-23 6098
此外，大模型训练的算力需求可以通过公式 6∗N∗D来计算，其中 N是模型的参数量， D是你要用的训练token的数量。HGX 是 NVIDIA 出的高性能服务器，通常一台机器包含 8 个或 4 个 GPU，搭配 Intel 或 AMD CPU，并且使用 NVLink 和 NVSwitch 实现全互联（8 个 GPU 通常也是除 NVL 和 SuperPod 之外的 NVLink 全互联的上限），而且一般会采用风冷散热。在系统的介绍GPU资源使用情况前，我们有必要先了解一下GPU的算力具体是怎么衡量的。
安装DCU-Z100（ZiFang）
qq_41480495的博客
09-25 5067
原来DCU Z100叫zifang。
海光dcu K100
03-19
### 海光 DCU K100 的硬件规格与性能参数 海光 DCU K100 是一款高性能的数据中心加速卡，主要面向人工智能训练和推理任务。其设计目标是在大规模并行计算领域提供卓越的性能表现。以下是关于该产品的具体信息： #### 硬件规格 - **制程工艺**: 使用先进的制造技术，确保低功耗的同时提升运算效率[^3]。 - **核心数量**: 配备大量计算单元，能够支持高并发的任务处理需求。 - **显存配置**: 提供高达 40GB 的高速 HBM 显存，满足大型模型对于内存的需求[^1]。 #### 性能参数 - **浮点运算能力**: 支持 FP16 和 INT8 数据类型下的高效矩阵乘法操作，在深度学习框架中有显著优势。 - **带宽指标**: 内部互联结构经过优化，具备极高的数据传输速率，减少瓶颈效应的发生概率。 - **能耗管理**: 功率控制机制完善，能够在不同负载条件下维持稳定运行状态。 #### 应用场景 得益于上述特点，海光 DCU K100 广泛应用于以下几个方面： - **自然语言处理(NLP)**: 对超大规模预训练语言模型进行微调时表现出色，例如 Qwen 系列中的多个版本均推荐搭配此款设备使用。 - **计算机视觉(CV)**: 实现图像分类、对象检测等功能所需的复杂算法加速。 - **科学计算**: 解决偏微分方程数值求解等问题所需的大规模线性代数运算。 ```python import torch device = 'cuda' if torch.cuda.is_available() else 'cpu' model = YourModel().to(device) if device == 'cuda': print(f"Using GPU with {torch.cuda.get_device_name(0)}") else: print("No compatible GPU found.") ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

海棠AI实验室

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值