Docker资源控制

1 CPU 资源控制

cgroups，是一个非常强大的 linux 内核工具，他不仅可以限制被 namespace 隔离起来的资源，还可以为资源设置权重、计算使用量、操控进程启停等等。所以 cgroups（Control groups）实现了对资源的配额和度量。
cgroups 有四大功能

• 资源限制：可以对任务使用的资源总额进行限制
• 优先级分配：通过分配的 cpu 时间片数量以及磁盘 IO 带宽大小，实际上相当于控制了任务运行优先级
• 资源统计：可以统计系统的资源使用量，如 cpu 时长，内存用量等
• 任务控制：cgroup 可以对任务执行挂起、恢复等操作

1.1 设置 CPU 使用率上限

Linux 通过 CFS（Complelely Fair Scheduler，完全公平调度器）来调度各个进程对 CPU 的使用。CFS 默认的调度周期是100ms。
我们可以设置每个容器进程的调度周期，以及在这个周期内各个容器最多能使用多少 CPU 时间。

使用 --cpu-period 即可设置调度周期，
使用 --cpu-quota 即可设置在每个周期内容器能使用的 CPU 时间。两者可以配合使用。
CFS 周期的有效范围是1ms~1s对应的 --cpu-period的数值范围是1000~1000000。
而容器的 CPU 配额必须不小于 1ms，即 --cpu-quota 的值必须 >=1000。

docker run -itd --name c1 centos:7 /bin/bash
docker ps -a
cd /sys/fs/cgroup/cpu/docker/容器的ID号/

cat cpu.cfs_quota_us   #默认情况是-1，表示不限额
cat cpu.cfs_period_us   #默认情况是100000

#cpu.cfs_period_us：cpu分配的周期（微秒，所以文件名中用us表示），默认为100000
#cpu.cfs_quota_us：表示该cgroups限制占用的时间（微秒），默认为-1，表示不限制。如果设为50000，表示占用50000/100000=50%的CPU。

进行压力测试

docker ps -a
docker exec -it c1 bash
vi /cpu.sh
#!/bin/bash
i=0
while true
do
   let i++;
done

chmod +x /cpu.sh
./cpu.sh

另外开启一个终端查看

top   #可以看到这个脚本占了很多的cpu资源

1.1.1 修改 CPU 使用率上限

#设置50%的比例分配cPU使用时间上限
docker run -itd --name c2 --cpu-quota 50000 centos:7  #可以重新创建一个容器并设置限额
docker ps -a

cd /sys/fs/cgroup/cpu/docker/容器的ID号/
cat cpu.cfs_quota_us 
cat cpu.cfs_period_us 

进行压力测试

docker exec -it c2 bash
vi /cpu.sh
#!/bin/bash
i=0
while true
do
   let i++;
done

chmod +x /cpu.sh
./cpu.sh
exit

另外开启一个终端查看

top  #可以看到cpu占用率接近50%，cgroups对cpu的控制起了效果

1.1.2 已经存在的修改，(最多只能用33%)

cat cpu.cfs_quota_us
echo 33000 > cpu.cfs_quota_us 
cat !$

进行压力测试

docker exec -it c1 bash
./cpu.sh/cpu.sh
exit

另外开启一个终端查看

1.2 设置CPU资源占用比（设置多个容器时才有效）

Docker 通过 --cpu-shares 指定CPU份额，默认值为 1024，值为 1024 的倍数。

打开三个终端

#创建两个容器为 c1 和 c2，若只有这两个容器，设置容器的权重，使得 c1 和 c2 的 CPU 资源占比为 1/3 和 2/3。
docker run -itd --name c1 --cpu-shares 1024 centos:7
docker run -itd --name c2 --cpu-shares 2048 centos:7
docker ps -a

#终端1进入c1容器，进行压力测试
docker exec -it c1 bash
yum install -y epel-release 
yum install -y stress 
stress -c 4  #产生四个进程，每个进程都反复不停的计算随机数的平方根

#终端2进入c2容器，进行压力测试
docker exec -it c2 bash
yum install -y epel-release 
yum install -y stress 
stress -c 4

#终端3查看容器运行状态（动态更新）
docker stats

1.3 设置容器绑定指定的CPU

#先分配虚拟机4个CPU核数
docker run -itd --name c3 --cpuset-cpus 1,3 centos:7 /bin/bash
docker ps -a

#进入容器，进行压力测试
docker exec -it c3 bash
yum install -y epel-release 
yum install stress -y 
stress -c 4
#退出容器，执行 top 命令再按1.1查看 CPU 使用情况。

另外开启一个终端查看

2 对内存使用的限制

2.1 限制容器可以使用的最大内存

-m（--memory=）选项用于限制容器可以使用的最大内存

docker run -itd --name c4 -m 512m centos:7 /bin/bash 
docker ps -a
docker stats

2.2 限制容器可用的 swap 大小

限制可用的 swap 大小，--memory-swap 
强调一下，--memory-swap 是必须要与 --memory 一起使用的。
正常情况下，--memory-swap 的值包含容器可用内存和可用 swap。
所以 -m 300m --memory-swap=1g 的含义为：容器可以使用 300M 的物理内存；并且可以使用 700M（1G-300）的 swap。
如果 --memory-swap 设置为 0 或者不设置，则容器可以使用的 swap 大小为 -m 值的两倍。
如果 --memory-swap 的值和 -m 值相同，则容器不能使用 swap。
如果 --memory-swap 值为 -1，它表示容器程序使用的内存受限，而可以使用的 swap 空间使用不受限制（宿主机有多少 swap 容器就可以使用多少）。

docker run -itd --name c5 -m 512m --memory-swap=1g centos:7 /bin/bash 
docker ps -a
docker stats

3 对磁盘IO配额控制（blkio）的限制

--device-read-bps：限制某个设备上的读速度bps（数据量），单位可以是kb、mb（M）或者gb

例：docker  run -itd --name c6 --device-read-bps /dev/sda:1M centos:7 /bin/bash
docker ps -a
docker exec -it c6 bash

--device-write-bps：限制某个设备上的写速度bpa（数据量），单位可以是kb、mb（M）或者gb

 #创建容器，并限制写速度
例：docker run -itd --name c7 --device-write-bps /dev/sda:1mb centos:7 /bin/bash
docker ps -a
docker exec -it c7 bash

#通过dd来验证写速度
dd if=/dev/zero of=/opt/test.out bs=10M count=5 oflag=direct  #添加oflag参数以规避掉文件系统cache

4 清理docker占用的磁盘空间

docker system prune -a #可以用于清理磁盘，删除关闭的容器、无用的数据卷和网络

5 总结

1.cgroup 对 CPU的限制

docker run -itd --name c1 --cpu-period 1000000 --cpu-quota 50000 centos:7 bash

docker run --cpu-period  #设置调度周期时间1000~1000000
docker run --cpu-quota   #设置容器进程的CPU占用时间，要与调度周期时间成比例
docker run --cpu-shares  #设置多个容器之间的CPU资源占用比
docker run --cpuset-cpus  #绑核（第一个CPU从0开始）

2.对内存的限制

docker run -m 物理内存 [--memory-swap=总值]  #代表没有swap值，0/-1/-m的同值

3.对磁盘IO的限制

--device-read-bps   设备文件:1mb/1M  #读速度
--device-write-bps    #写速度
--device-read-iops    #读次数
--device-write-iops   #写次数

docker system prune -a #释放无用的资源