本地部署AI大模型之GPU：专用GPU内存和共享GPU内存的区别

我们在电脑中打开“任务管理器”->“性能”->“GPU”的时候，会看到两个名词“专用GPU内存”和“共享GPU内存”，如下图所示：

那么，什么是“专用GPU内存”和“共享GPU内存”，以及它们两个之间有什么区别呢？（通过Kimi获得了解答）

专用GPU内存（Dedicated GPU Memory）

1. 定义：

   • 专用GPU内存是独立于系统内存（RAM）的物理内存，专门用于GPU的计算和图形处理任务。

2. 特点：

   • 独立性：专用GPU内存是独立的，不依赖于系统内存。这意味着GPU可以直接访问这部分内存，而不会与CPU或其他系统进程竞争。

   • 高性能：专用GPU内存通常具有较高的带宽和较低的延迟，适合高性能图形处理和计算任务。

   • 固定容量：专用GPU内存的容量是固定的，由显卡的硬件规格决定。常见的容量有2GB、4GB、8GB等。

3. 用途：

   • 专用GPU内存主要用于图形渲染、深度学习、科学