GPU虚拟化
HanBlogs
AI Compiler、GPU Performance Optimization、Linux kernel、Heterogeneous computing
展开
-
NVIDIA GPU A100 Ampere(安培) 架构深度解析
NVIDIA AMPERE GPU架构深度解析文章目录NVIDIA AMPERE GPU架构深度解析1. NVIDIA A100 Highlights1.1 NVIDIA A100对比Volta有20x性能的性能提升。1.2 NVIDIA A100的5个新特性1.3 AI加速:使用BERT-LARGE进行训练、推理1.4 A100 HPC 加速1.5 GA100 架构图1.6 GA100 SM架构1.7. A100芯片特性总结2. Elastic GPU2.1 A100 NVLINK BANDWIDT原创 2020-05-28 18:47:17 · 14383 阅读 · 2 评论 -
HARDWARE SPECIFICATION - PRMS
TheProgrammer's Reference Manuals (PRM)describe the architectural behavior and programming environment of the chipset and graphics devices. The Graphics Controller (GC) contains an extensive set of ...转载 2020-05-07 16:09:41 · 634 阅读 · 0 评论 -
第一章 GPU虚拟化发展史
第一章 GPU虚拟化发展史GPU的虚拟化发展历程事实上与公有云市场和云计算应用场景的普及息息相关。如果在10年前谈起云计算,大部分人的反应是“不知所云“。但是随着云计算场景的普及,概念的深入人心,慢慢地大家都对云计算有一个较清晰的概念和实例化的理解。自然,随着应用场景从单一依赖CPU的计算单元的应用扩展到多种体系架构,异构计算场景的应用上来后,对GPU,FPGA,TPU等专业计算芯片也提出了...转载 2020-05-07 16:07:57 · 1921 阅读 · 0 评论 -
第二章 GPU虚拟化方案之——GPU直通模式
第二章GPU虚拟化方案之——GPU直通模式目前流行的商用GPU虚拟化方案可以分为以下几类:GPU 直通模式,GPU SRIOV 模式,GPU 半虚拟化(mediated passthrough:包括Intel GVT-g和Nvidia GRID vGPU),VMWare的GPU全虚拟化(vSGA)。当然也有尚未成熟处于玩票性质的virtio GPU等等。各种方案的架构如下图,相信大家简单...转载 2020-05-07 16:06:58 · 16356 阅读 · 0 评论 -
浅谈GPU虚拟化技术(三)GPU SRIOV及vGPU调度
本系列文章推送门:阿里云郑晓:浅谈GPU虚拟化技术(第一章)GPU虚拟化发展史阿里云郑晓:浅谈GPU虚拟化技术(第二章)GPU虚拟化方案之——GPU直通模式今天一个小伙伴@我说:“你浅谈一下,没点技术背景的,估计都看不懂…”,醍醐灌顶啊,面向公众的文章不是学术论文,应以普及基本概念为主。所以我决定在接下来的文章力求写的让吃瓜群众能看懂,专业人士能读完也会有很大感触和启迪。至于技术细节,大致...转载 2020-05-07 16:05:29 · 13940 阅读 · 2 评论 -
浅谈GPU虚拟化技术(四)- GPU分片虚拟化
让各位久等了,阿里小二这就开始上新菜:“GPU分片虚拟化”。对于“分片”的理解,相信大家已经不陌生了。此处的分片从两个维度上来定义:其一,是对GPU在时间片段上的划分,与CPU的进程调度类似,一个物理GPU的计算engine在几个vGPU之间共享,而调度时间片一般都在1ms-10ms左右,其二,是对GPU资源的划分,主要是指对GPU显存的划分,以NVIDIA为例,一个物理GPU带有16GB的显...转载 2020-05-07 16:03:41 · 10885 阅读 · 0 评论