Docker 容器与虚拟机的区别
- 本质上的区别:
VM(VMware)在宿主机器、宿主机器操作系统的基础上创建虚拟层、虚拟化的操作系统、虚拟化的仓库,然后再安装应用;
Container(Docker容器),在宿主机器、宿主机器操作系统上创建Docker引擎,在引擎的基础上再安装应用。
那么问题来了,没有操作系统,怎么运行程序?
可以在Docker中创建一个ubuntu的镜像文件,这样就能将ubuntu系统集成到Docker中,运行的应用就都是ubuntu的应用。 - 使用上的区别:
Docker在宿主机器的操作系统上创建Docker引擎,直接在宿主主机的操作系统上调用硬件资源,而不是虚拟化操作系统和硬件资源,所以操作速度快。
这个其实安装一个ubuntu的虚拟机和拉取一个Docker的ubuntu镜像文件,运行一下就知道了,区别很明显,虚拟机开一下大概得2分多钟,而Docker只需要2秒钟。
Docker 存在的安全问题
- Docker 自身漏洞:
作为一款应用 Docker 本身实现上会有代码缺陷。CVE官方记录Docker历史版本共有超过20项漏洞。
黑客常用的攻击手段主要有代码执行、权限提升、 信息泄露、权限绕过等。目前 Docker 版本更迭非常快,
Docker 用户最好将 Docker 升级为 最新版本。 - Docker 源码问题:
Docker 提供了 Docker hub,可以让用户上传创建的镜像,以便其他用户下载,快速搭 建环境。但同时也带来了一些安全问题。例如下面三种方式:
(1)黑客上传恶意镜像 如果有黑客在制作的镜像中植入木马、后门等恶意软件,那么环境从一开始就已经不安全了,后续更没有什么安全可言。
(2)镜像使用有漏洞的软件 Docker Hub 上能下载的镜像里面,75%的镜像都安装了有漏洞的软件。所以下载镜像后,
需要检查 面软件的版本信息,对应的版本是否存在漏洞,并及时更新打上补丁。
(3)中间人攻击篡改镜像 镜像在传输过程中可能被篡改,目前新版本的 Docker 已经提供了相应的校验机制来预 防这个问题。
Docker 架构缺陷与安全机制
- Docker 本身的架构与机制就可能产生问题,例如这样一种攻击场景,黑客已经控制了宿主机上的一些容器,或者获得了通过在公有云上建立容器的方式,然后对宿主机或其他容器发起攻击。
- 容器之间的局域网攻击 :
主机上的容器之间可以构成局域网,因此针对局域网的 ARP 欺骗、嗅探、广播风暴等攻 击方式便可以用上。
所以,在一个主机上部署多个容器需要合理的配置网络,设置 iptable 规则。 - DDoS 攻击耗尽资源:
Cgroups 安全机制就是要防止此类攻击的,不要为单一的容器分配过多的资源即可避免此类问题。 - 有漏洞的系统调用:
Docker与虚拟机的一个重要的区别就是Docker与宿主机共用一个操作系统内核。
一旦宿主内核存在可以越权或者提权漏洞,尽管Docker使用普通用户执行,在容器被入侵时,攻击者还可以利用内核漏洞跳到宿主机做更多的事情。 - 共享root用户权限:
如果以 root 用户权限运行容器,容器内的 root 用户也就拥有了宿主机的root权限。
Docker 安全基线标准
- 内核级别:
(1)及时更新内核。
(2)User NameSpace(容器内的 root 权限在容器之外处于非高权限状态)。
(3)Cgroups(对资源的配额和度量)。
(4)SELiux/AppArmor/GRSEC(控制文件访问权限)。
(5)Capability(权限划分)。
(6)Seccomp(限定系统调用)。
(7)禁止将容器的命名空间与宿主机进程命名空间共享。 - 主机级别:
(1)为容器创建独立分区。
(2)仅运行必要的服务。
(3)禁止将宿主机上敏感目录映射到容器。
(4)对 Docker 守护进程、相关文件和目录进行审计。
(5)设置适当的默认文件描述符数。
(文件描述符:内核(kernel)利用文件描述符(file descriptor)来访问文件。文件描述符是非负整数。
打开现存文件或新建文件时,内核会返回一个文件描述符。读写文件也需要使用文件描述符来指定待读写的文件)
(6)用户权限为 root 的 Docker 相关文件的访问权限应该为 644 或者更低权限。
(7)周期性检查每个主机的容器清单,并清理不必要的容器。 - 网络级别 :
(1)通过 iptables 设定规则实现禁止或允许容器之间网络流量。
(2)允许 Docker 修改 iptables。
(3)禁止将 Docker 绑定到其他 IP/Port 或者 Unix Socket。
(4)禁止在容器上映射特权端口。
(5)容器上只开放所需要的端口。
(6)禁止在容器上使用主机网络模式。
(7)若宿主机有多个网卡,将容器进入流量绑定到特定的主机网卡上。 - 镜像级别:
(1)创建本地镜像仓库服务器。
(2)镜像中软件都为最新版本。
(3)使用可信镜像文件,并通过安全通道下载。
(4)重新构建镜像而非对容器和镜像打补丁。
(5)合理管理镜像标签,及时移除不再使用的镜像。
(6)使用镜像扫描。
(7)使用镜像签名。 - 容器级别:
(1)容器最小化,操作系统镜像最小集。
(2)容器以单一主进程的方式运行。
(3)禁止 privileged 标记使用特权容器。
(4)禁止在容器上运行 ssh 服务。
(5)以只读的方式挂载容器的根目录系统。
(6)明确定义属于容器的数据盘符。
(7)通过设置 on-failure 限制容器尝试重启的次数,容器反复重启容易丢失数据。
(8)限制在容器中可用的进程树,以防止 fork bomb。(fork炸弹,迅速增长子进程,耗尽系统进程数量) - 其他设置:
(1)定期对宿主机系统及容器进行安全审计。
(2)使用最少资源和最低权限运行容器。
(3)避免在同一宿主机上部署大量容器,维持在一个能够管理的数量。
(4)监控 Docker 容器的使用,性能以及其他各项指标。
(5)增加实时威胁检测和事件响应功能。
(6)使用中心和远程日志收集服务
Docker remote api 访问控制
Docker的远程调用 API 接口存在未授权访问漏洞,至少应限制外网访问。建议使用 Socket 方式访问。
监听内网 ip,docker daemon 启动方式如下。
[root@localhost ~]# docker images //首先查看镜像
REPOSITORY TAG IMAGE ID CREATED SIZE
centos stress d45688176a74 2 days ago 417MB
compose_nginx_nginx latest a220279f34fa 6 days ago 537MB
127.0.0.1/yang/nginx nice bc9a0695f571 2 weeks ago 133MB
127.0.0.1/yangzihan/nginx new bc9a0695f571 2 weeks ago 133MB
nginx latest bc9a0695f571 2 weeks ago 133MB
centos 7 8652b9f0cb4c 3 weeks ago 204MB
vmware/harbor-log v1.2.2 36ef78ae27df 3 years ago 200MB
vmware/harbor-jobservice v1.2.2 e2af366cba44 3 years ago 164MB
vmware/harbor-ui v1.2.2 39efb472c253 3 years ago 178MB
vmware/harbor-adminserver v1.2.2 c75963ec543f 3 years ago 142MB
vmware/harbor-db v1.2.2 ee7b9fa37c5d 3 years ago 329MB
vmware/nginx-photon 1.11.13 6cc5c831fc7f 3 years ago 144MB
vmware/registry 2.6.2-photon 5d9100e4350e 3 years ago 173MB
vmware/postgresql 9.6.4-photon c562762cbd12 3 years ago 225MB
vmware/clair v2.0.1-photon f04966b4af6c 3 years ago 297MB
vmware/harbor-notary-db mariadb-10.1.10 64ed814665c6 3 years ago 324MB
vmware/notary-photon signer-0.5.0 b1eda7d10640 3 years ago 156MB
vmware/notary-photon server-0.5.0 6e2646682e3c 3 years ago 157MB
photon 1.0 e6e4e4a2ba1b 4 years ago 128MB
[root@localhost ~]# vim /usr/lib/systemd/system/docker.service
14行 ExecStart=/usr/bin/dockerd -H unix:///var/run/docker.sock -H tcp://192.168 .100.100:2222
重启服务:
[root@localhost ~]# vim /usr/lib/systemd/system/docker.service
[root@localhost ~]# systemctl daemon-reload
[root@localhost ~]# systemctl restart docker.service
[root@localhost ~]# netstat -anpt | grep docker
tcp 0 0 192.168.100.100:2222 0.0.0.0:* LISTEN 8752/dockerd
tcp 0 0 127.0.0.1:1514 0.0.0.0:* LISTEN 8931/docker-proxy
[root@localhost ~]# systemctl stop firewalld.service
[root@localhost ~]# setenforce 0
server2上连接server1docker
[root@localhost ~]# systemctl stop firewalld
[root@localhost ~]# setenforce 0
[root@localhost ~]# docker images
REPOSITORY TAG IMAGE ID CREATED SIZE
可以看见是没有镜像的
连接server1并查看镜像:
[root@localhost ~]# docker -H tcp://192.168.100.100:2222 images
REPOSITORY TAG IMAGE ID CREATED SIZE
centos stress d45688176a74 2 days ago 417MB
compose_nginx_nginx latest a220279f34fa 6 days ago 537MB
127.0.0.1/yang/nginx nice bc9a0695f571 2 weeks ago 133MB
127.0.0.1/yangzihan/nginx new bc9a0695f571 2 weeks ago 133MB
nginx latest bc9a0695f571 2 weeks ago 133MB
centos 7 8652b9f0cb4c 3 weeks ago 204MB
vmware/harbor-log v1.2.2 36ef78ae27df 3 years ago 200MB
vmware/harbor-jobservice v1.2.2 e2af366cba44 3 years ago 164MB
vmware/harbor-ui v1.2.2 39efb472c253 3 years ago 178MB
vmware/harbor-adminserver v1.2.2 c75963ec543f 3 years ago 142MB
vmware/harbor-db v1.2.2 ee7b9fa37c5d 3 years ago 329MB
vmware/nginx-photon 1.11.13 6cc5c831fc7f 3 years ago 144MB
vmware/registry 2.6.2-photon 5d9100e4350e 3 years ago 173MB
vmware/postgresql 9.6.4-photon c562762cbd12 3 years ago 225MB
vmware/clair v2.0.1-photon f04966b4af6c 3 years ago 297MB
vmware/harbor-notary-db mariadb-10.1.10 64ed814665c6 3 years ago 324MB
vmware/notary-photon signer-0.5.0 b1eda7d10640 3 years ago 156MB
vmware/notary-photon server-0.5.0 6e2646682e3c 3 years ago 157MB
photon 1.0 e6e4e4a2ba1b 4 years ago 128MB
限制流量流向
使用防火墙过滤器限制 Docker 容器的源 IP 地址范围与外界通讯。
[root@localhost ~]# firewall-cmd --permanent --zone=public --add-rich-rule="rule family="ipv4" source address="192.168.100.0/24" reject"
FirewallD is not running //这里说防火墙没开启,所以做限制前需要关闭防火墙
[root@localhost ~]# systemctl start firewalld.service
[root@localhost ~]# firewall-cmd --permanent --zone=public --add-rich-rule="rule family="ipv4" source address="192.168.100.0/24" reject"
success
大量问题是因为Docker容器端口外放引起的漏洞,除了操作系统账户权限控制上的问题,更在于对Docker Daemon的进程管理上存在隐患。目前常用的Docker版本都支持Docker Daemon管理宿主iptables的,而且一旦启动进程加上-p host_port:guest_port的端口映射,Docker Daemon会直接增加对应的FORWARD Chain并且-j ACCEPT,而默认的DROP规则是在INPUT链做的,对docker没法限制,
这就留下了很严重的安全隐患了。因此建议:
①不在有外网ip的机器上使用Docker服务
② 使用k8s等docker编排系统管理Docker容器
③宿主上Docker daemon启动命令加一个–iptables=false,然后把常用iptables写进文件里,再用iptables-restore去刷。
镜像安全
Docker 镜像安全扫描,在镜像仓库客户端使用证书认证,对下载的镜像进行检查。
通过与 CVE 数据库同步扫描镜像,一旦发现漏洞则通知用户处理,或者直接阻止镜像继续构建。
如果公司使用的是自己的镜像源,可以跳过此步;否则,至少需要验证 baseimage 的 md5 等特征值,确认一致后再基于 baseimage 进一步构建。
一般情况下,要确保只从受信任的库中获取镜像,并且不建议使用–insecure-registry=[] 参数,推荐使用harbor私有仓库。
Docker-TLS加密通讯
为了防止链路劫持、会话劫持等问题导致 Docker 通信时被中 间人攻击,c/s 两端应该通过加密方式通讯。
创建目录:
[root@localhost ~]# mkdir tls
[root@localhost ~]# cd tls/
修改主机名:
[root@localhost tls]# hostnamectl set-hostname master
[root@localhost tls]# su
[root@master tls]#
设置映射:
[root@master tls]# vim /etc/hosts
127.0.0.1 master
创建ca密钥:
[root@master tls]# openssl genrsa -aes256 -out ca-key.pem 4096 //输入密钥
Generating RSA private key, 4096 bit long modulus
..........................................................................................................................++
........................................................................................................................................................................................................................................................................................................................................................................................................++
e is 65537 (0x10001)
Enter pass phrase for ca-key.pem:
Verifying - Enter pass phrase for ca-key.pem:
[root@master tls]# ls
ca-key.pem
创建ca证书:
[root@master tls]# openssl req -new -x509 -days 1000 -key ca-key.pem -sha256 -subj "/CN=*" -out ca.pem
Enter pass phrase for ca-key.pem:
[root@master tls]# ls
ca-key.pem ca.pem
创建服务器私钥:
[root@master tls]# openssl genrsa -out server-key.pem 4096
Generating RSA private key, 4096 bit long modulus
...++
........................................................++
e is 65537 (0x10001)
[root@master tls]# ls
ca-key.pem ca.pem server-key.pem
签名私钥:
[root@master tls]# openssl req -subj "/CN=*" -sha256 -new -key server-key.pem -out server.csr
[root@master tls]# ls
ca-key.pem ca.pem server.csr server-key.pem
使用ca证书与私钥证书签名,输入密钥:
[root@master tls]# openssl x509 -req -days 1000 -sha256 -in server.csr -CA ca.pem -CAkey ca-key.pem -CAcreateserial -out server-cert.pem
Signature ok
subject=/CN=*
Getting CA Private Key
Enter pass phrase for ca-key.pem:
[root@master tls]# ls
ca-key.pem ca.pem ca.srl server-cert.pem server.csr server-key.pem
生成客户端密钥:
[root@master tls]# openssl genrsa -out key.pem 4096
Generating RSA private key, 4096 bit long modulus
....................................................................................................................................................................................................................................................................................................++
...............................................................................................................................................................................................................................................................++
e is 65537 (0x10001)
[root@master tls]# ls
ca-key.pem ca.srl server-cert.pem server-key.pem
ca.pem key.pem server.csr
签名客户端:
[root@master tls]# openssl req -subj "/CN=client" -new -key key.pem -out client.csr
[root@master tls]# ls
ca-key.pem ca.srl key.pem server.csr
ca.pem client.csr server-cert.pem server-key.pem
创建配置文件:
[root@master tls]# echo extendedKeyUsage=clientAuth > extfile.cnf
[root@master tls]# cat extfile.cnf
extendedKeyUsage=clientAuth
使用ca证书与私钥证书签名 :
[root@master tls]# openssl x509 -req -days 1000 -sha256 -in server.csr -CA ca.pem -CAkey ca-key.pem -CAcreateserial -out server-cert.pem
Signature ok
subject=/CN=*
Getting CA Private Key
Enter pass phrase for ca-key.pem:
生成客户端密钥:
[root@master tls]# openssl genrsa -out key.pem 4096
Generating RSA private key, 4096 bit long modulus
....................................................................................................................................................................................++
..........................++
e is 65537 (0x10001)
签名客户端:
[root@master tls]# openssl req -subj "/CN=client" -new -key key.pem -out client.csr
[root@master tls]# ls
ca-key.pem ca.srl extfile.cnf server-cert.pem server-key.pem
ca.pem client.csr key.pem server.csr
签名证书,输入123123,需要(签名客户端,ca证书,ca密钥)
[root@master tls]# openssl x509 -req -days 1000 -sha256 -in client.csr -CA ca.pem -CAkey ca-key.pem -CAcreateserial -out cert.pem -extfile extfile.cnf
Signature ok
subject=/CN=client
Getting CA Private Key
Enter pass phrase for ca-key.pem:
[root@master tls]# ls
ca-key.pem ca.srl client.csr key.pem server.csr
ca.pem cert.pem extfile.cnf server-cert.pem server-key.pem
删除多余文件:
[root@master tls]# rm -rf ca.srl client.csr extfile.cnf server.csr
[root@master tls]# ls
ca-key.pem ca.pem cert.pem key.pem server-cert.pem server-key.pem
配置docker:
vim /lib/systemd/system/docker.service
ExecStart=/usr/bin/dockerd --tlsverify --tlscacert=/tls/ca.pem --tlscert=/tls/server-cert.pem --tlskey=/tls/server-key.pem -H tcp://0.0.0.0:2376 -H unix:///var/run/docker.sock
重启进程:
[root@master tls]# vim /lib/systemd/system/docker.service
[root@master tls]# systemctl daemon-reload
[root@master tls]# systemctl restart docker.service
[root@master tls]# netstat -antp | grep docker
tcp6 0 0 :::3333 :::* LISTEN 12414/dockerd
将 /root/tls/ca.pem /root/tls/cert.pem /root/tls/key.pem 三个文件复制到另一台主机:
[root@master tls]# scp ca.pem root@192.168.100.100:/etc/docker/
The authenticity of host '192.168.100.100 (192.168.100.100)' can't be established.
ECDSA key fingerprint is SHA256:7b//kDwXeVdAvanXhKlBydS1eZDKAK7b7uC3GK4JUPE.
ECDSA key fingerprint is MD5:0b:3a:9e:78:73:bd:4e:49:39:4d:e5:5e:7f:ad:0b:dd.
Are you sure you want to continue connecting (yes/no)? yes
Warning: Permanently added '192.168.100.100' (ECDSA) to the list of known hosts.
root@192.168.100.100's password:
ca.pem 100% 1765 498.8KB/s 00:00
[root@master tls]# scp cert.pem root@192.168.100.100:/etc/docker/
root@192.168.100.100's password:
cert.pem 100% 1696 608.6KB/s 00:00
[root@master tls]# scp key.pem root@192.168.195.129:/etc/docker/
^[[D^[[D^[[D^[[D^[[D^H^H^H^H^H^C[root@master tls]# ^C
[root@master tls]# scp key.pem root@192.168.100.100:/etc/docker/
root@192.168.100.100's password:
key.pem 100% 3243 436.6KB/s 00:00
[root@master tls]# docker --tlsverify --tlscacert=ca.pem --tlscert=cert.pem --tlskey=key.pem -H tcp://master:3333 version
Client: Docker Engine - Community
Version: 19.03.13
API version: 1.40
Go version: go1.13.15
Git commit: 4484c46d9d
Built: Wed Sep 16 17:03:45 2020
OS/Arch: linux/amd64
Experimental: false
Server: Docker Engine - Community
Engine:
Version: 19.03.13
API version: 1.40 (minimum version 1.12)
Go version: go1.13.15
Git commit: 4484c46d9d
Built: Wed Sep 16 17:02:21 2020
OS/Arch: linux/amd64
Experimental: false
containerd:
Version: 1.3.9
GitCommit: ea765aba0d05254012b0b9e595e995c09186427f
runc:
Version: 1.0.0-rc10
GitCommit: dc9208a3303feef5b3839f4323d9beb36df0a9dd
docker-init:
Version: 0.18.0
GitCommit: fec3683
查看另外一台主机:
[root@localhost ~]# ls /etc/docker/
ca.pem cert.pem daemon.json key.json key.pem
连接master上docker:
vim /etc/hosts
192.168.100.100 master
[root@localhost docker]# docker --tlsverify --tlscacert=ca.pem --tlscert=cert.pem --tlskey=key.pem -H tcp://master:3333 version
Client: Docker Engine - Community
Version: 19.03.13
API version: 1.40
Go version: go1.13.15
Git commit: 4484c46d9d
Built: Wed Sep 16 17:03:45 2020
OS/Arch: linux/amd64
Experimental: false
Server: Docker Engine - Community
Engine:
Version: 19.03.13
API version: 1.40 (minimum version 1.12)
Go version: go1.13.15
Git commit: 4484c46d9d
Built: Wed Sep 16 17:02:21 2020
OS/Arch: linux/amd64
Experimental: false
containerd:
Version: 1.3.9
GitCommit: ea765aba0d05254012b0b9e595e995c09186427f
runc:
Version: 1.0.0-rc10
GitCommit: dc9208a3303feef5b3839f4323d9beb36df0a9dd
docker-init:
Version: 0.18.0
GitCommit: fec3683