Docker资源控制--Cgroup

前言

默认情况下容器是没有资源限制的,因为它本身就是一个进程,当一个容器占用太多资源的话,会对其他容器产生影响,所以 ,合理应该分配容器资源是作为管理员必须要关注的问题。

一、Cgroup简介

Docker通过 Cgroup 来控制容器使用的资源配额,包括 CPU、内存、磁盘三大方面,基本覆盖了常见的资源配额和使用量控制。

Cgroup 是 Linux 内核提供的一种可以限制、记录、隔离进程组所使用的物理资源的机制。

Cgroup 子系统

  • blkio:设置限制每个块设备的输入输出控制;
  • cpu:使用调度程序为 cgroup 任务提供 cpu 的访问;
  • memory:设置每个 cgroup 的内存限制以及产生内存资源报告;
  • cpuacct:产生 cgroup 任务的 cpu 资源报告;
  • cpuset:如果是多核心的 cpu,这个子系统会为 cgroup 任务分配单独的 cpu 和内存;
  • devices:允许或拒绝 cgroup 任务对设备的访问;
  • freezer:暂停和恢复 cgroup 任务;
  • net_cls:标记每个网络包以供 cgroup 方便使用;
  • ns:命名空间子系统;
  • perf_event:增加了对每个 cgroup 的监测跟踪能力,可以监测属于某个特定的 cgroup 的所有线程及运行在特定 CPU 上的线程;

二、使用 stress 工具测试 CPU 和内存

2.1 stress工具介绍

stress 是Unix类系统下的工作量和压力测试工具。它将对用户指定的CPU数量的I/O,内存和硬盘的负载并报告它检测到任何错误。它用于自动压力测试和调试系统组件失败的唯一或更经常负荷时。它可以运行在x86,ppc64的,和PPC 32 GNU / Linux的,Tru64的,SPARC Solaris的,和其他平台。

2.2 使用 Dockerfile 来创建一个 stress 的工具镜像

[root@docker ~]# mkdir /opt/stress
[root@docker ~]# vi /opt/stress/Dockerfile
FROM centos:7
MAINTAINER chu
RUN yum -y install wget
RUN wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-7.repo
RUN yum -y install stress
~                             
[root@docker ~]# cd /opt/stress/
[root@docker stress]# docker build -t centos:stress .

三、测试

3.1 CPU弹性的加权值–cpu-shares

默认情况下,每个 Docker 容器的CPU的份额都是1024,单独一个容器的份额是没有意义的。只有在同时运行多个容器时,容器的 CPU 加权的效果才能体现出来。
例如,两个容器 A、B 的CPU份额分别是 1000 和 500 ,在 CPU 进行时间片分配的时候,容器A比容器B多一倍的机会获得 CPU 的时间片。但分配的结果取决于当时主机和其他容器的运行状态,实际上也无法保证容器 A 一定能获得CPU 时间片。比如容器 A 的进程一直是空闲的,那么容器 B 是可以获取比容器 A 更多的 CPU 时间片。极端情况下,例如主机上只运行了一个容器,即使它的 CPU 份额只有 50,它也可以独占整个主机的 CPU 资源。

Cgroup 只在容器分配的资源紧缺时,即在需要对容器使用的资源进行限制时,才会生效。因此,无法单纯根据某个容器的 CPU 份额来确定有多少 CPU 资源分配给它,资源分配结果取决于同时运行的其他容器的 CPU 分配和容器中进程运行情况。可以通过 cpu share 可以设置容器使用 CPU 的优先级。

  • 容器1
[root@docker stress]# docker run -tid --name cpu512 --cpu-shares 512 centos:stress stress -c 10
d3721046daaf07b654b40eb01dec59ee692edc6e015249e76d3fc45f33c5cb16
[root@docker ~]# docker exec -it cpu512 bash
[root@d3721046daaf /]# top

在这里插入图片描述

  • 容器2
[root@docker ~]# docker exec -it cpu1024 bash
[root@17ef3a33d6b9 /]# top
[root@docker stress]# docker run -tid --name cpu1024 --cpu-shares 1024 centos:stress stress -c 10
17ef3a33d6b97ad17a24a9b509895953988754b87d2c434ab30080a30a583e0e

在这里插入图片描述

3.2 CPU 周期限制

  • –cpu-period :是用来指定容器对 CPU 的使用要在多长时间内做一次重新分配。
  • –cpu-quota :是用来指定在这个周期内,最多可以有多少时间用来跑这个容器。
  • 与 --cpu-shares 不同的是。这种配置是指定一个绝对值,容器对 CPU 资源的使用绝对不会超过配置的值。

注意:

  • cpu-period 和 cpu-quota 的单位是微秒;
  • cpu-period 的最小值是1000微秒,最大值为1秒,默认值为0.1秒。
  • cpu-quota 的值默认是 -1 ,表示不做控制;
  • cpu-period 和 cpu-quota 参数一般联合使用。

容器进程需要每一秒使用单个 CPU 的0.2秒时间,可以将 cpu-period 设置为 1000000(即1秒),cpu-quota 设置为 200000(0.2秒)
当然,在多核情况下,如果允许容器进程完全占有两个 CPU,则可以将 cpu-period 设置为 100000(即0.1秒),cpu-quota 设置为 200000(0.2秒),cpu刷新是0.1秒间隔 那么我在你这使用了0.1秒后还有0.1秒怎么办,就让下一个cpu来处理

[root@docker stress]# docker run -itd --cpu-period 100000 --cpu-quota 200000 --name time centos:stress
902aee9d4bc54259292561b2322db78008377e38fff2d42949a7e2ea8827e15e
[root@docker stress]# docker exec -it time bash
[root@902aee9d4bc5 /]# cat /sys/fs/cgroup/cpu 
cpu/         cpu,cpuacct/ cpuacct/     cpuset/      
[root@902aee9d4bc5 /]# cat /sys/fs/cgroup/cpu/cpu.cfs_period_us 
100000
[root@902aee9d4bc5 /]# cat /sys/fs/cgroup/cpu/cpu.cfs_quota_us 
200000

在这里插入图片描述

3.3 CPU Core 控制

于多核 CPU 的服务器,Docker 还可以控制容器运行使用哪些 CPU 内核,即使用 --cpuset-cpus 参数。这对具有多 CPU 的服务器尤其有用,可以对需要高性能计算的容器进行性能最优配置。

  • 容器1
[root@docker stress]# docker run -itd --name cpu1 --cpuset-cpus 0-1 centos:stress
1f5e090e7c47c75a3a16930be1221ca4dc4650fb1bd2b4763b3f70a7663e562e
[root@docker stress]# docker exec -it cpu1 bash
[root@1f5e090e7c47 /]# cat /sys/fs/cgroup/cpuset/cpuset.cpus
0-1

# 压力测试
[root@1f5e090e7c47 /]# stress -c 10

在这里插入图片描述
在这里插入图片描述

  • 容器2
[root@docker stress]# docker run -itd --name cpu2 --cpuset-cpus 2-4 centos:stress
a2809bd52743fe519fcdc0dda5aebd8a267dea1f623a8478de56ec95e7ef1534
[root@docker stress]# docker exec -it cpu2 bash
[root@a2809bd52743 /]# cat /sys/fs/cgroup/cpuset/cpuset.cpus
2-4

# 压力测试
[root@a2809bd52743 /]# stress -c 10

在这里插入图片描述
在这里插入图片描述

3.4 CPU 配额控制参数的混合使用

通过 cpuset-cpus 参数指定容器 A 使用 CPU 内核 0,容器B 只是用 CPU 内核1;在主机上只有这两个容器使用对应 CPU 内核的情况,它们各自占有全部的内核资源,cpu-shares 没有明显效果。cpuset-cpus、cpuset-mems 参数只在多核、多内存节点上的服务器上有效,并且必须与实际的物理配置匹配,否则也无法达到资源控制的目的。在系统具有多个 CPU 内核的情况下,需要通过 cpuset-cpus 参数为设置容器 CPU 内核才能方便地进行测试。

  • 容器1
[root@docker ~]# docker run -itd --name cpu3 --cpuset-cpus 1 --cpu-shares 512 centos:stress stress -c 1
5b472d5cb9435baaf2c23769797ada39b3036acb512d959ffafceca11c9a991b

在这里插入图片描述

  • 容器2
[root@docker ~]# docker run -itd --name cpu4 --cpuset-cpus 3 --cpu-shares 1024 centos:stress stress -c 1
d2e4fb58a06f460c770e57df52bec932854c5808ad301ad94ee5207535d1d6cf

在这里插入图片描述

3.5 内存限额

与操作系统类似,容器可使用的内存包括两部分:物理内存 和 Swap;

docker 通过下面两组参数来控制容器内存的使用量:

-m 或 --memory:设置内存的使用限额,例如 100M、1024M;
–memory-swap:设置内存 +swap 的使用限额。

  1. 低于交换内存
[root@docker ~]# docker run -it -m 100M --memory-swap=200M --name mem progrium/stress --vm 1 --vm-bytes 110M
stress: info: [1] dispatching hogs: 0 cpu, 0 io, 1 vm, 0 hdd
stress: dbug: [1] using backoff sleep of 3000us
stress: dbug: [1] --> hogvm worker 1 [6] forked
stress: dbug: [6] allocating 115343360 bytes ...
stress: dbug: [6] touching bytes in strides of 4096 bytes ...
stress: dbug: [6] freed 115343360 bytes
stress: dbug: [6] allocating 115343360 bytes ...
stress: dbug: [6] touching bytes in strides of 4096 bytes ...

内存测试通过!

在这里插入图片描述

  1. 高于交换内存
[root@docker ~]# docker run -it -m 100M --memory-swap=200M --name mem2 progrium/stress --vm 1 --vm-bytes 210M
stress: info: [1] dispatching hogs: 0 cpu, 0 io, 1 vm, 0 hdd
stress: dbug: [1] using backoff sleep of 3000us
stress: dbug: [1] --> hogvm worker 1 [6] forked
stress: dbug: [6] allocating 220200960 bytes ...
stress: dbug: [6] touching bytes in strides of 4096 bytes ...
stress: FAIL: [1] (416) <-- worker 6 got signal 9
stress: WARN: [1] (418) now reaping child worker processes
stress: FAIL: [1] (422) kill error: No such process
stress: FAIL: [1] (452) failed run completed in 1s

内存测试失败!

在这里插入图片描述

3.6 Block IO 限制

默认情况下,所有容器能平等地读写磁盘,可以通过设置 --blkio-weight 参数来改变容器 block IO 的优先级。

–blkio-weight 与 --cpu-shares 类似,设置的是相对权重值,默认为500

[root@docker ~]# docker run -it --name block-io1 --blkio-weight 600 centos:stress
[root@94b58d7759b3 /]# cat /sys/fs/cgroup/blkio/blkio.weight
600

在这里插入图片描述

[root@docker ~]# docker run -it --name block-io2 --blkio-weight 200 centos:stress
[root@7daf15627708 /]# cat /sys/fs/cgroup/blkio/blkio.weight
200

在这里插入图片描述

3.7 bps 和 iops 的限制

  • bps :是 byte per second,每秒读写的数据量;
  • iops :是 io per second,每秒 IO 的次数;

可以通过以下的参数来控制 bps 和 iops:

  • device-read-bps:限制读某个设备的 bps;
  • device-write-bps:限制写某个设备的 bps;
  • device-read-iops:限制读某个设备的 iops;
  • device-write-iops:限制写某个设备的 iops。
    例如:

限制容器 写 /dev/sda

[root@docker ~]# docker run -it --device-write-bps /dev/sda:13MB --name bps1 centos:stress
[root@d02e97d3690f /]# dd if=/dev/zero of=test bs=1M count=1024 oflag=direct
^C33+0 records in
33+0 records out
34603008 bytes (35 MB) copied, 2.50529 s, 13.8 MB/s

在这里插入图片描述

[root@docker ~]# docker run -it --name bps2 centos:stress
[root@f162566ea2f1 /]# dd if=/dev/zero of=test bs=1M count=1024 oflag=direct
1024+0 records in
1024+0 records out
1073741824 bytes (1.1 GB) copied, 2.90913 s, 369 MB/s

在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值