产品背景知识：超卖

超卖

一、超卖是什么

超卖（Overcommit）是云服务厂商（如AWS、Azure、Google Cloud等）或虚拟化平台提供商（如VMware、KVM等）常用的一种资源管理策略。其核心目的是提高资源利用率，降低成本，同时为用户提供更灵活的资源分配方式。

二、为什么云服务厂商会使用超卖

云服务厂商的硬件资源（如CPU、内存、GPU、存储等）有限，而用户需求动态且多样化。通过超卖，厂商能更高效利用资源，实现以下目标：

1. 提高资源利用率：许多用户资源使用率不高，存在明显波峰波谷，超卖可充分利用闲置资源。
2. 降低成本：用更少硬件资源支持更多用户，降低单位成本。
3. 灵活定价：提供更灵活的定价模型（如按需付费、预留实例等），吸引更多用户。
4. 支持突发需求：应对用户突发流量或高负载需求，提供更好服务质量。

三、算力超卖、显存超卖、CPU超卖

（一）算力超卖

1. 定义：将GPU的计算资源（如CUDA核心、Tensor Core等）分配给多个用户或任务，超过GPU实际可提供的计算能力。
2. 实现方式：
   • 时间片轮转：通过时间片轮转的方式，让多个任务共享GPU的计算资源。
   • 动态调度：根据任务的优先级和需求，动态分配计算资源。

（二）显存超卖

1. 定义：将GPU的显存资源分配给多个用户或任务，超过GPU实际可提供的显存容量。
2. 实现方式：
   • 虚拟显存：通过虚拟化技术，将部分显存数据交换到主机内存或磁盘中。
   • 显存共享：多个任务共享同一块显存，通过显存管理机制动态分配。

（三）CPU超卖

1. 定义：将CPU的计算资源分配给多个任务或虚拟机（VM），超过CPU实际可提供的计算能力。
2. 实现方式：
   • 时间片轮转：通过操作系统的时间片轮转机制，让多个任务共享CPU的计算资源。
   • 虚拟化技术：在虚拟化环境中，Hypervisor（如KVM、VMware）可以将物理CPU的核心分配给多个虚拟机，通过调度机制共享CPU资源。
   • 优先级调度：根据任务的优先级动态分配CPU资源，确保高优先级任务获得足够的计算能力。

四、超卖的实际效果

1. 算力超卖：显卡只有100的算力，却能同时运行多个任务，通过调度共享算力。若任务总需求超过100，性能会下降。
2. 显存超卖：显卡只有10G的显存，可同时运行多个任务，通过共享或虚拟化使用显存。若任务总需求超过10G，可能导致显存交换，性能下降。
3. CPU超卖：并非将计算能力从400提升到800，而是通过时间片轮转或动态调度，让多个任务共享这400的计算能力。

五、超卖的风险

1. 性能下降：所有任务同时满负载运行，算力和显存会成为瓶颈，导致性能下降。
2. 不可预测性：用户无法准确预测任务的执行时间和性能，可能影响业务需求。
3. 稳定性问题：显存超卖过多可能导致任务崩溃或系统不稳定。

六、超卖的适用场景

1. CPU超卖：适用于计算任务对性能要求不高，且任务的计算需求具有明显波峰波谷的场景。
2. 算力超卖：适用于GPU计算任务对性能要求不高，且任务的计算需求具有明显波峰波谷的场景。
3. 显存超卖：适用于任务对显存需求较低，且显存需求具有明显波峰波谷的场景。

七、超卖对用户的影响

（一）好处

1. 低成本：超卖使得云服务厂商能够提供更低的价格，用户可以以更低的成本使用资源。
2. 灵活性：用户可以根据需求动态调整资源使用量，按需付费。

（二）风险

1. 性能下降：当资源被超卖且所有用户同时高负载运行时，可能导致性能下降（如CPU争抢、内存交换等）。
2. 不可预测性：用户无法准确预测资源的可用性和性能，可能影响业务需求。
3. 资源竞争：在多租户环境中，用户之间可能竞争资源，导致服务质量不稳定。

八、超卖的典型场景

1. 公有云：公有云厂商（如AWS、Azure）通常会超卖资源，以支持海量用户和动态需求。
2. 虚拟化平台：企业内部的虚拟化平台（如VMware、OpenStack）也可能使用超卖策略，提高资源利用率。
3. 容器平台：容器编排平台（如Kubernetes）可以通过资源请求和限制实现超卖，支持更多容器实例。

九、用户如何应对超卖

1. 监控资源使用：实时监控资源使用情况，及时发现性能瓶颈。
2. 预留资源：对于关键业务，可以购买预留实例或专用资源，避免资源竞争。
3. 优化应用：优化应用程序的资源使用，减少对超卖资源的依赖。
4. 选择可靠厂商：选择信誉良好的云服务厂商，确保服务质量和稳定性。