Docker网络模式和Cgroup资源限制

一、docker网络

1、docker网络的实现原理

Docker使用Linux桥接，在宿主机虚拟一个Docker容器网桥(docker0)，Docker启动一个容器时会根据Docker网桥的网段分配给容器一个IP地址，称为Container-IP，同时Docker网桥是每个容器的默认网关。因为在同一宿主机内的容器都接入同一个网桥，这样容器之间就能够通过容器的 Container-IP直接通信。

Docker网桥是宿主机虚拟出来的，并不是真实存在的网络设备，外部网络是无法寻址到的，这也意味着外部网络无法直接通过Container-IP访问到容器。如果容器希望外部网络能够访问到，可以通过映射容器端口到宿主主机（端口映射），即docker run创建容器时候通过-p或-P参数来启用，访问容器的时候就通过[宿主机IP]:[容器端口]访问容器。

2、docker端口映射

方法一：
 
#随机映射端口(从32768开始)
docker run -d --name 为容器指定名称 -P 镜像名称
 
方法二：
 
#自定义映射端口
docker run -d --name 为容器指定名称 -p 宿主机端口:容器端口 镜像名称
 
docker ps -a查看

设置路由转发功能并重启network和docker，然后在web通过IP地址和docker映射端口号查看。

查看容器的输出和日志信息

docker logs 容器的ID/名称

3、Docker 的网络模式

• Host：容器将不会虚拟出自己的网卡，配置自己的IP等，而是使用宿主机的IP和端口。
• Container：创建的容器不会创建自己的网卡，配置自己的IP，而是和一个指定的容器共享IP、端口范围。
• None：该模式关闭了容器的网络功能。
• Bridge：默认为该模式，此模式会为每一个容器分配、设置IP等，并将容器连接到一个docker0虚拟网桥，通过docker0网桥以及iptables nat 表配置与宿主机通信。
• 自定义网络

使用docker run创建Docker容器时，可以用 --net 或 --network 选项指定容器的网络模式
●host模式：使用 --net=host 指定。
●none模式：使用 --net=none 指定。
●container模式：使用 --net=container:NAME_or_ID 指定。
●bridge模式：使用 --net=bridge 指定，默认设置，可省略。

查看docker网络列表

docker network ls	
docker network list		

(1) host模式

相当于Vmware中的桥接模式，与宿主机在同一个网络中，但没有独立IP地址。
Docker使用了Linux的Namespaces技术来进行资源隔离，如PID Namespace隔离进程，Mount Namespace隔离文件系统，Network Namespace隔离网络等。
一个Network Namespace提供了一份独立的网络环境，包括网卡、路由、iptable规则等都与其他的Network Namespace隔离。 一个Docker容器一般会分配一个独立的Network Namespace。 但如果启动容器的时候使用host模式，那么这个容器将不会获得一个独立的Network Namespace， 而是和宿主机共用一个Network Namespace。容器将不会虚拟出自己的网卡、配置自己的IP等，而是使用宿主机的IP和端口。

（2）container模式

这个模式指定新创建的容器和已经存在的一个容器共享一个Network Namespace，而不是和宿主机共享。 新创建的容器不会创建自己的网卡，配置自己的IP，而是和一个指定的容器共享IP、端口范围等。同样，两个容器除了网络方面，其他的如文件系统、进程列表等还是隔离的。两个容器的进程可以通过lo网卡设备通信。

创建容器web2

通过docker inspect 命令查看容器的ip地址

创建容器web3，设置为conainer模式，共享容器web2的网络命名空间 

 

（3）none模式

使用none模式，Docker容器拥有自己的Network Namespace，但是，并不为Docker容器进行任何网络配置。 也就是说，这个Docker容器没有网卡、IP、路由等信息。这种网络模式下容器只有lo回环网络，没有其他网卡。这种类型的网络没有办法联网，封闭的网络能很好的保证容器的安全性。

（4）bridge模式

bridge模式是docker的默认网络模式，不用--net参数，就是bridge模式。

相当于Vmware中的 nat 模式，容器使用独立network Namespace，并连接到docker0虚拟网卡。通过docker0网桥以及iptables nat表配置与宿主机通信，此模式会为每一个容器分配Network Namespace、设置IP等，并将一个主机上的 Docker 容器连接到一个虚拟网桥上。    

（1）当Docker进程启动时，会在主机上创建一个名为docker0的虚拟网桥，此主机上启动的Docker容器会连接到这个虚拟网桥上。虚拟网桥的工作方式和物理交换机类似，这样主机上的所有容器就通过交换机连在了一个二层网络中。

（2）从docker0子网中分配一个IP给容器使用，并设置docker0的IP地址为容器的默认网关。在主机上创建一对虚拟网卡veth pair设备。 veth设备总是成对出现的，它们组成了一个数据的通道，数据从一个设备进入，就会从另一个设备出来。因此，veth设备常用来连接两个网络设备。

（3）Docker将 veth pair 设备的一端放在新创建的容器中，并命名为 eth0（容器的网卡），另一端放在主机中， 以 veth* 这样类似的名字命名， 并将这个网络设备加入到 docker0 网桥中。可以通过 brctl show 命令查看。

（4）使用 docker run -p 时，docker实际是在iptables做了DNAT规则，实现端口转发功能。可以使用iptables -t nat -vnL 查看。

 (5)自定义网络

可以先自定义网络，再使用指定IP运行docker

#可以先自定义网络，再使用指定IP运行docker
docker network create --subnet=172.18.0.0/16 --opt "com.docker.network.bridge.name"="docker1"  mynetwork
----------------------------------------------------------------------------------------------------------
#docker1 为执行 ifconfig -a 命令时，显示的网卡名，如果不使用 --opt 参数指定此名称，那你在使用 ifconfig -a 命令查看网络信息时，看到的是类似 br-110eb56a0b22 这样的名字，这显然不怎么好记。
#mynetwork 为执行 docker network list 命令时，显示的bridge网络模式名称。
----------------------------------------------------------------------------------------------------------
docker run -itd --name test4 --net mynetwork --ip 172.18.0.10 centos:7 /bin/bash

二、Docker资源限制

Docker 通过 Cgroup 来控制容器使用的资源配额，包括 CPU、内存、磁盘三大方面， 基本覆盖了常见的资源配额和使用量控制。
Cgroup 是 ControlGroups 的缩写，是 Linux 内核提供的一种可以限制、记录、隔离进程组所使用的物理资源(如 CPU、内存、磁盘 IO 等等) 的机制，被 LXC、docker 等很多项目用于实现进程资源控制。Cgroup 本身是提供将进程进行分组化管理的功能和接口的基础结构，I/O 或内存的分配控制等具体的资源管理是通过该功能来实现的。
 

1、CPU 资源控制

（1）设置CPU使用率上限

Linux通过CFS（Completely Fair Scheduler，完全公平调度器）来调度各个进程对CPU的使用。CFS默认的调度周期是100ms。
我们可以设置每个容器进程的调度周期，以及在这个周期内各个容器最多能使用多少 CPU 时间。

使用 --cpu-period 即可设置调度周期，使用 --cpu-quota 即可设置在每个周期内容器能使用的CPU时间。两者可以配合使用。
CFS 周期的有效范围是 1ms~1s，对应的 --cpu-period 的数值范围是 1000~1000000。
而容器的 CPU 配额必须不小于 1ms，即 --cpu-quota 的值必须 >= 1000。
 

下载测压工具

yum install -y epel-release
yum install -y stress

1.对已经存在的容器进行限制

进行压力测试 ，先创建一个容器

2.创建容器时设置资源使用上限

（2）设置CPU资源占用比（设置多个容器时才有效）

Docker 通过 --cpu-shares 指定 CPU 份额，默认值为1024，值为1024的倍数。
#创建两个容器为 c1 和 c2，若只有这两个容器，设置容器的权重，使得c1和c2的CPU资源占比为1/3和2/3

docker run -id --name c1 --cpu-shares 1024 centos:7 bash
docker run -id --name c2 --cpu-shares 2048 centos:7 bash
 
docker cp stress-1.0.4-16.el7.x86_64.rpm c1:/
docker cp stress-1.0.4-16.el7.x86_64.rpm c2:/   #将stress压测工具传给两个容器并安装
 
docker exec -it c1 bash
rpm -ivh stress-1.0.4-16.el7.x86_64.rpm
 
docker exec -it c2 bash
rpm -ivh stress-1.0.4-16.el7.x86_64.rpm       #分别为两个容器安装stress
 
stress -c 2   #为两个容器开启压测
 

此时再创建一个容器c3设置cpu资源份额为1024 

（3）设置容器绑定指定的CPU

（3）设置容器绑定指定的CPU
#先分配虚拟机4个CPU核数
docker run -itd --name c1 --cpuset-cpus 1 centos:7 /bin/bash
docker run -itd --name c2 --cpuset-cpus 0 centos:7 /bin/bash
#进入容器，进行压力测试
yum install -y epel-release
yum install stress -y
stress -c 2

#退出容器，执行 top 命令再按 1 查看CPU使用情况。

2、对内存使用的限制

//-m(--memory=) 选项用于限制容器可以使用的最大内存
docker run -itd --name test8 -m 512m centos:7 /bin/bash

docker stats

//限制可用的 swap 大小， --memory-swap
强调一下，--memory-swap 是必须要与 --memory 一起使用的。

正常情况下，--memory-swap 的值包含容器可用内存和可用 swap。
所以 -m 300m --memory-swap=1g 的含义为：容器可以使用 300M 的物理内存，并且可以使用 700M（1G - 300）的 swap。

如果 --memory-swap 设置为 0 或者 不设置，则容器可以使用的 swap 大小为 -m 值的两倍。
如果 --memory-swap 的值和 -m 值相同，则容器不能使用 swap。
如果 --memory-swap 值为 -1，它表示容器程序使用的内存受限，而可以使用的 swap 空间使用不受限制（宿主机有多少 swap 容器就可以使用多少）。

3、对磁盘IO配额控制（blkio）的限制

--device-read-bps：限制某个设备上的读速度bps（数据量），单位可以是kb、mb(M)或者gb。

例：docker run -itd --name test9 --device-read-bps /dev/sda:1M  centos:7 /bin/bash

--device-write-bps ： 限制某个设备上的写速度bps（数据量），单位可以是kb、mb(M)或者gb。       #在Docker 25版本之后，--device-write-bps选项已无效

例：docker run -itd --name test10 --device-write-bps /dev/sda:1mb centos:7 /bin/bash

--device-read-iops ：限制读某个设备的iops（每秒读次数）
 
--device-write-iops ：限制写入某个设备的iops（每秒写次数）

#创建容器，并限制写速度
docker run -it --name test10 --device-write-bps /dev/sda:1mb centos:7 /bin/bash
docker run -it --name test10 --device-write-iops /dev/sda:1000 centos:7 /bin/bash

总结：

docker网络模式

bridge
docker容器的默认网络模式。使用此模式的每个容器都有独立的网络命名空间(network namespace)，每个容器都有独立的IP、端口范围、路由信息、iptables规则等网络资源。
docker run [--network=bridge]  ....

host
使用此模式的容器与宿主机共享网络命名空间，即容器和宿主机使用同一个IP、端口范围(容器与宿主机或其它使用host模式的容器不能使用相同的端口)、路由信息、iptables规则等网络资源。
docker run --network=host  ....

container
使用此模式的容器与指定的已存在的容器共享网络命名空间，即两个容器使用同一个IP、端口范围(容器与指定的容器不能使用相同的端口)、路由信息、iptables规则等网络资源。
docker run --network=container:容器名或容器ID  ....

none
每个容器都有独立的网络命名空间，但是容器没有自己的eth0网卡、IP、端口等，只有lo网卡。
docker run --network=none  ....

自定义网络
可以用来自定义创建一个网段、网桥、网络模式，还可以实现使用自定义网络指定容器IP来创建容器
docker network create --subnet=自定义网段 --opt "com.docker.network.bridge.name"="自定义网桥名"  自定义网络模式名          #创建自定义网络

docker run --network=自定义网络模式名  --ip=自定义容器IP  ....                                                             #使用自定义网络指定容器IP来创建容器

cgroup资源限制（限制容器进行对CPU 内存 磁盘IO 等资源的最大使用量）

CPU限制

1）设置单个容器进程能够使用的CPU使用率上限
针对新建的容器：
docker run --cpu-period=单个CPU的调度周期时间(1000~1000000)  --cpu-quota=容器进程能够使用的最大CPU时间(>=1000，<=调度周期时间)

针对已存在的容器：
修改 /sys/fs/cgroup/cpu/docker/容器ID/ 目录下的 cpu.cfs_period_us(单个CPU的调度周期时间)  cpu.cfs_quota_us(容器进程能够使用的最大CPU时间)  这两个文件的值

2）设置多个容器的CPU占用比份额（只在多个容器同时运行且CPU资源紧张的时候生效）
docker run --cpu-shares=容器进程最大占用的CPU份额(值为1024的倍数)

3）设置容器绑定指定的CPU
docker run --cpuset-cpus CPUID[,CPUID2,....]

内存限制

设置容器能够使用的内存和swap的上限
docker run -m=内存值  --memory-swap=内存和swap的总值
                                   =0或不设置，表示容器的swap为内存的2倍
                                    =-1，表示不限制swap的值，宿主机有多少swap，容器就可使用多少
                                    =同-m的值，表示不使用swap

磁盘IO限制

docker run --device-read-bps    磁盘设备文件路径:速率 #限制容器在磁盘上每秒读的数据量
           --device-write-bps   磁盘设备文件路径:速率          #限制容器在磁盘上每秒写的数据量
           --device-read-iops   磁盘设备文件路径:次数         #限制容器在磁盘上每秒读的次数
           --device-write-iops  磁盘设备文件路径:次数         #限制容器在磁盘上每秒写的次数