docker存储卷
COW机制
Docker镜像由多个只读层叠加而成,启动容器时,Docker会加载只读镜像层并在镜像栈顶部添加一个读写层。(读写层一开始是没有的,需要自己创建)
如果运行中的容器修改了现有的一个已经存在的文件,那么该文件将会从读写层下面的只读层复制到读写层,该文件的只读版本依然存在,只是已经被读写层中该文件的副本所隐藏,这就是“写时复制(COW)”机制。
对于这种方式来说,我们去访问一个文件,修改和删除等一类的操作,其效率会非常的低,因为隔着很多层镜像。(镜像层是删不掉的,D其实是隐藏)
而要想绕过这种限制,我们可以通过使用存储卷的机制来实现。
什么是存储卷
存储卷就是将宿主机的本地文件系统中存在的某个目录直接与容器内部的文件系统上的某一目录建立绑定关系。这就意味着,当我们在容器中的这个目录下写入数据时,容器会将其内容直接写入到宿主机上与此容器建立了绑定关系的目录。
在宿主机上的这个与容器形成绑定关系的目录被称作存储卷。
以下方法是采用联合挂载的方式
实例:
我们随便创建一个容器
[root@localhost ~]# docker ps -a
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
[root@localhost ~]# docker run -it --rm busybox
Unable to find image 'busybox:latest' locally
latest: Pulling from library/busybox
3aab638df1a9: Pull complete
Digest: sha256:52817dece4cfe26f581c834d27a8e1bcc82194f914afe6d50afad5a101234ef1
Status: Downloaded newer image for busybox:latest
/ # ls
bin dev etc home proc root sys tmp usr var
重新打开一个终端,查看挂载点,最下面的就是和容器相连的挂载点
[root@localhost ~]# df -h
文件系统 容量 已用 可用 已用% 挂载点
devtmpfs 371M 0 371M 0% /dev
tmpfs 391M 0 391M 0% /dev/shm
tmpfs 391M 11M 380M 3% /run
tmpfs 391M 0 391M 0% /sys/fs/cgroup
/dev/mapper/cs-root 70G 2.6G 68G 4% /
/dev/sda1 1014M 195M 820M 20% /boot
/dev/mapper/cs-home 127G 938M 126G 1% /home
tmpfs 79M 0 79M 0% /run/user/0
overlay 70G 2.6G 68G 4% /var/lib/docker/overlay2/dd1e2b00c7044cf247ecf3cfb29ba4e4a66bc0d6801188bec4260e8c5cd5eeb9/merged
进去查看发现和创建的容器内容一样
[root@localhost ~]# cd /var/lib/docker/overlay2/dd1e2b00c7044cf247ecf3cfb29ba4e4a66bc0d6801188bec4260e8c5cd5eeb9/merged
[root@localhost merged]# ls
bin dev etc home proc root sys tmp usr var
去容器里面创建123发现这上面也会同步
/ # ls
bin dev etc home proc root sys tmp usr var
/ # touch 123
/ # ls
123 bin dev etc home proc root sys tmp usr var
[root@localhost merged]# ls
123 bin dev etc home proc root sys tmp usr var
返回上一步,发现有一个diff文件,查看一下就有刚创建的123文件
[root@localhost merged]# cd ..
[root@localhost dd1e2b00c7044cf247ecf3cfb29ba4e4a66bc0d6801188bec4260e8c5cd5eeb9]# ls
diff link lower merged work
[root@localhost dd1e2b00c7044cf247ecf3cfb29ba4e4a66bc0d6801188bec4260e8c5cd5eeb9]# ls diff/
123 root
diff:不同的,就是和原文件进行比较,发现不同的会出现在这里
先挂载还是先关联?
先挂载再关联,挂载后这个目录就是共享存储的目录了,再去关联就意味着/data/web和共享存储进行关联的,不是和本机目录进行关联的,如果先关联再挂载的话是与本机目录做的关联,然后挂载的给隐藏起来了,看不见了
实例:
[root@localhost ~]# ls /mnt/
hgfs
创建一个123文件
[root@localhost ~]# touch /mnt/123
[root@localhost ~]# ls /mnt/
123 hgfs
进行挂载
[root@localhost ~]# mount /dev/cdrom /mnt/
mount: /mnt: WARNING: device write-protected, mounted read-only.
再次查看发现刚刚创建的不见了
[root@localhost ~]# ls /mnt/
AppStream BaseOS EFI images isolinux LICENSE media.repo TRANS.TBL
取消挂载后又出现了,其实不是删除了,是隐藏了
[root@localhost ~]# umount /mnt/
[root@localhost ~]# ls /mnt/
123 hgfs
使用存储卷的好处
如果容器中跑的进程的所有有效数据都保存在存储卷中,从而脱离容器自身文件系统之后,带来的好处是当容器关闭甚至被删除时,只要不删除与此容器绑定的在宿主机上的这个存储目录,我们就不用担心数据丢失了。因此就可以实现数据持久,脱离容器的生命周期而持久。
我们通过这种方式管理容器,容器就可以脱离主机的限制,可以在任意一台部署了docker的主机上跑容器,而其数据则可以置于一个共享存储文件系统上,比如nfs。
Docker的存储卷默认情况下是使用其所在的宿主机上的本地文件系统目录的,也就是说宿主机上有一块属于自己的硬盘,这个硬盘并没有共享给其他的Docker主机,而在这台主机上启动的容器所使用的存储卷是关联到此宿主机硬盘上的某个目录之上。
这就意味着容器在这台主机上停止运行或者被删除了再重建,只要关联到硬盘上的这个目录下,那么其数据还存在。但如果在另一台主机上启动一个新容器,那么数据就没了。而如果在创建容器的时候我们手动的将容器的数据挂载到一台nfs服务器上,那么这个问题就不再是问题了。
为什么要用存储卷
关闭并重启容器,其数据不受影响,但删除Docker容器,则其更改将会全部丢失。
因此Docker存在的问题有:
存储于联合挂载文件系统中,不易于宿主机访问
容器间数据共享不便
删除容器其数据会丢失
而要解决这些问题,解决方案就是使用存储卷。
实例:
创建一个容器,并在容器内创建个测试的文件然后停止容器
[root@localhost ~]# docker run -it --name test busybox
/ # ls
bin dev etc home proc root sys tmp usr var
/ # mkdir test
/ # ls
bin dev etc home proc root sys test tmp usr var
/ # echo "hello" > test/index.html
/ # cat test/index.html
hello
/ # exit
[root@localhost ~]# docker ps -a
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
878f40a7f058 busybox "sh" 29 seconds ago Exited (0) 3 seconds ago test
重新开一个终端,查看
[root@localhost ~]# cd /var/lib/docker/overlay2/8927d46abd4802548f32ecb7b8456728e9ccb9d4c49ad828af1b7e81beb293ea/merged
-bash: cd: /var/lib/docker/overlay2/8927d46abd4802548f32ecb7b8456728e9ccb9d4c49ad828af1b7e81beb293ea/merged: 没有那个文件或目录
[root@localhost ~]# cd /var/lib/docker/overlay2/8927d46abd4802548f32ecb7b8456728e9ccb9d4c49ad828af1b7e81beb293ea/
[root@localhost 8927d46abd4802548f32ecb7b8456728e9ccb9d4c49ad828af1b7e81beb293ea]# ls
diff link lower work
如果删除容器再查看就消失了
[root@localhost ~]# docker rm test
test
[root@localhost 8927d46abd4802548f32ecb7b8456728e9ccb9d4c49ad828af1b7e81beb293ea]# ls
存储卷管理方式
存储卷(Data Volume)于容器初始化时被自动创建,由base image提供的卷中的数据会于此期间完成复制。
Volume的初衷是独立于容器的生命周期实现数据持久化,因此删除容器之时既不会删除卷,也不会对未被引用的卷做垃圾回收操作。
存储卷为Docker提供了独立于容器的数据管理机制,我们可以把镜像想象成静态文件,例如“程序”,把卷类比为动态内容,例如“数据”。所以镜像可以重用,而卷则可以共享。
卷实现了“程序(镜像)”和“数据(卷)”的分离,以及“程序(镜像)”和“制作镜像的主机”的分离,用户制作镜像时无须再考虑镜像运行的容器所在的主机的环境。
存储卷的分类
Docker有两种类型的卷,每种类型都在容器中存在一个挂载点,但其在宿主机上的位置有所不同:
-
Bind mount volume
- a volume that points to a user-specified location on the host file system
-
Docker-managed volume
- the Docker daemon creates managed volumes in a portion of the host’s file system that’s owned bye Docker
容器数据管理
用户在使用Docker的过程中,往往需要能查看容器内应用产生的数据,或者需要把容器内的数据进行备份,甚至多个容器之间进行数据的共享,这必然涉及容器的数据管理操作。
容器中管理数据主要有两种方式:
数据卷(Data Volumes)
数据卷容器(Data Volumes Containers)
容器Volume使用语法:
Docker-managed volume
docker run -it --name CONTAINER_NAME -v VOLUMEDIR IMAGE_NAME
Bind mount volume
docker run -it --name CONTAINER_NAME -v HOSTDIR:VOLUMEDIR IMAGE_NAME
在容器中使用数据卷
在容器内创建一个数据卷
下面使用nginx镜像创建一个web容器,并创建一个数据卷挂载到容器的/webapp目录下:
[root@localhost ~]# docker run --name web -d -P -v /webapp nginx
81ff0d0be68e943b3460264ff770f5b09a034b3bdf9d54e6638b6a79dc10def3
[root@localhost ~]# docker ps
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
81ff0d0be68e nginx "/docker-entrypoint.…" 3 seconds ago Up 2 seconds 0.0.0.0:49153->80/tcp, :::49153->80/tcp web
#进入容器查看
[root@localhost ~]# docker exec -it web /bin/bash
root@81ff0d0be68e:/# ls
bin docker-entrypoint.d home media proc sbin tmp webapp
boot docker-entrypoint.sh lib mnt root srv usr
dev etc lib64 opt run sys var
#创建文件测试
root@81ff0d0be68e:/# cd webapp/
root@81ff0d0be68e:/webapp# ls
root@81ff0d0be68e:/webapp# touch test
root@81ff0d0be68e:/webapp# ls
test
#在宿主机挂载点查看
[root@localhost _data]# docker inspect web
"Mounts": [
{
"Type": "volume",
"Name": "f11a3631977715a09800ac997b03ed850b8f8e6654cf6aeb1508fd402d37fc6a",
"Source": "/var/lib/docker/volumes/f11a3631977715a09800ac997b03ed850b8f8e6654cf6aeb1508fd402d37fc6a/_data",
"Destination": "/webapp",
"Driver": "local",
"Mode": "",
"RW": true,
"Propagation": ""
}
]
[root@localhost volumes]# cd /var/lib/docker/volumes/f11a3631977715a09800ac997b03ed850b8f8e6654cf6aeb1508fd402d37fc6a/_data
[root@localhost _data]# ls
test
这里的-P是允许外部访问容器需要暴露的端口。
挂载一个主机目录作为数据卷
[root@localhost ~]# docker run --name web01 -d -P -v /data:/webapp nginx
f741062778019d36a64b7e6406503167f56597ba3e7475677801b324ef112361
[root@localhost ~]#
[root@localhost ~]# docker ps
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
f74106277801 nginx "/docker-entrypoint.…" 2 seconds ago Up 2 seconds 0.0.0.0:49156->80/tcp, :::49156->80/tcp web01
[root@localhost ~]# docker exec -it web01 /bin/bash
root@f74106277801:/# ls
bin docker-entrypoint.d home media proc sbin tmp webapp
boot docker-entrypoint.sh lib mnt root srv usr
dev etc lib64 opt run sys var
root@f74106277801:/webapp# touch 123
root@f74106277801:/webapp# ls
123
#在宿主机挂载目录下查看
[root@localhost data]# ls
123
上面的命令加载主机的/data目录到容器的/webapp目录:
这个功能在进行测试的时候非常方便,比如用户可以放置一些程序或数据到本地目录中,然后在容器内运行和使用。另外,本地目录的路径必须是绝对路径,如果目录不存在,Docker会自动创建。
Docker挂载数据卷的默认权限是读写(rw),用户也可以通过(ro)指定为只读:
[root@localhost ~]# docker run --name web02 -d -P -v /data/:/webapp:ro nginx
a61761425a211567eb20b0fd0c436b68b60a07f8a6fe853501f5806ac26ca37d
[root@localhost ~]# docker ps
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
a61761425a21 nginx "/docker-entrypoint.…" 9 seconds ago Up 8 seconds 0.0.0.0:49155->80/tcp, :::49155->80/tcp web02
[root@localhost ~]# docker exec -it web01 /bin/bash
root@a61761425a21:/# ls
bin docker-entrypoint.d home media proc sbin tmp webapp
boot docker-entrypoint.sh lib mnt root srv usr
dev etc lib64 opt run sys var
root@a61761425a21:/# cd webapp/
root@a61761425a21:/webapp# ls
root@a61761425a21:/webapp# touch 123
touch: cannot touch '123': Read-only file system #容器内只能读
#但是可以通过宿主机写
[root@localhost ~]# cd /data/
[root@localhost data]# ls
[root@localhost data]# mkdir 123
[root@localhost data]#
#容器里查看
root@a61761425a21:/webapp# ls
123
root@a61761425a21:/webapp#
加了:ro以后,容器内挂载的数据卷的数据就无法修改了。
挂载一个本地主机文件作为数据卷
-v选项也可以从主机挂载单个文件到容器中作为数据卷:
[root@localhost ~]# docker run -it --rm -v ~/.bash_history:/.bash_history centos /bin/bash
[root@0ba65f5c4f1b /]#
[root@0ba65f5c4f1b /]# ls
bin etc lib lost+found mnt proc run srv tmp var
dev home lib64 media opt root sbin sys usr
[root@0ba65f5c4f1b /]# cat .bash_history
ip a
vim /etc/sysconfig/network-scripts/ifcfg-ens160
cd /etc/yum.repos.d/
curl -o docker-ce.repo https://mirrors.tuna.tsinghua.edu.cn/docker-ce/linux/centos/docker-ce.repo
这样就可以记录在容器输入过的命令历史了。
如果直接挂载一个文件到容器,使用文件编辑工具,包括vi或者sed去修改文件内容的时候,可能会造成inode的改变,这样将会导致错误。所以推荐的方式是直接挂载文件所在的目录。
数据卷容器
如果用户需要在容器之间共享一些持续更新的数据,最简单的方式是使用数据卷容器。数据卷容器其实就是一个普通的容器,专门用它提供数据卷供其他容器挂载使用,方法如下:
首先,创建一个数据卷容器dbdata,并在其中创建一个数据卷挂载到/dbdata:
[root@localhost ~]# docker run --name db -dit -v /dbdata centos
7e50c4ae470f2b1d721f4b35e75af7e4270a614d55bc2afcca0a3db459e286fd
[root@localhost ~]# docker ps
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
7e50c4ae470f centos "/bin/bash" 4 seconds ago Up 3 seconds db
然后可以在其他容器中使用–volumes-from来挂载dbdata容器中的数据卷,例如创建db1和db2两个容器,并从dbdata容器挂载数据卷:
[root@localhost ~]# docker run --name db1 -dit --volumes-from db centos
0f69163e8020cff7a18ffc623194f26d9e4f31a95b75c57ccfe1bb774ef10bca
[root@localhost ~]# docker run --name db2 -dit --volumes-from db centos
8b2913344d9ed71e95a2a9bc49b1278649d68a3a7abd3cc0fa1839bda5bc9aa3
[root@localhost ~]# docker ps
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
8b2913344d9e centos "/bin/bash" 3 seconds ago Up 2 seconds db2
0f69163e8020 centos "/bin/bash" 22 seconds ago Up 22 seconds db1
7e50c4ae470f centos "/bin/bash" 3 minutes ago Up 3 minutes db
此时,容器db1和db2都挂载同一个数据卷到相同的/dbdata目录。三个容器任何一方在该目录下的写入,其他容器都可以看到。
例如,在db1容器中创建一个test文件:
[root@localhost ~]# docker exec -it db1 /bin/bash
[root@0f69163e8020 /]# ls
bin dev home lib64 media opt root sbin sys usr
dbdata etc lib lost+found mnt proc run srv tmp var
[root@0f69163e8020 /]# cd dbdata/
[root@0f69163e8020 dbdata]# ls
[root@0f69163e8020 dbdata]# touch 123
[root@0f69163e8020 dbdata]# ls
123
在db2容器中查看:
[root@localhost ~]# docker exec -it db2 /bin/bash
[root@8b2913344d9e /]# ls dbdata/
123
[root@8b2913344d9e /]#
可以多次使用–volumes-from参数来从多个容器挂载多个数据卷。还可以从其他已挂载了容器卷的容器来挂载数据卷:
[root@localhost ~]# docker run --name db3 -dit --volumes-from db1 centos
efea597d4667f6231b89130dcb844dc2aa6e587005d295a1ca66203827b7b936
[root@localhost ~]# docker exec -it db3 /bin/bash
[root@efea597d4667 /]# ls
bin dev home lib64 media opt root sbin sys usr
dbdata etc lib lost+found mnt proc run srv tmp var
[root@efea597d4667 /]# ls dbdata/
123
使用–volumes-from参数所挂载数据卷的容器自身并不需要保持在运行状态。
如果删除了挂载的容器(包括dbdata、db1和db2),数据卷并不会被自动删除。如果要删除一个数据卷,必须在删除最后一个还挂载着它的容器时显式使用docker rm -v命令来指定同时删除关联的容器。(很少使用)
[root@localhost ~]# docker rm -v db1
db1
[root@localhost ~]# docker volume ls
DRIVER VOLUME NAME
利用数据卷容器迁移数据
可以利用数据卷容器对其中的数据卷进行备份、恢复,以实现数据的迁移。
备份
使用下面的命令来备份dbdata数据卷容器内的数据卷:
[root@localhost ~]# docker run --name worker --volumes-from dbdata -v $(pwd):/backup centos tar cvf /backup/backup.tar /dbdata
这个命令稍微有点复杂,具体分析下。
首先利用centos镜像创建了一个容器worker。使用–volumes-from dbdata参数来让worker容器挂载dbdata容器的数据卷(即dbdata数据卷);使用-v $(pwd):/backup参数来挂载本地的当前目录到worker容器的/backup目录。
worker容器启动后,使用了tar cvf /backup/backup.tar /dbdata命令来将/dbdata下内容备份为容器内的/backup/backup.tar,即宿主主机当前目录下的backup.tar。
恢复
如果要恢复数据到一个容器,可以按照下面的操作。首先创建一个带有数据卷的容器dbdata2:
[root@localhost ~]# docker run -it --name dbdata2 -v /dbdata centos /bin/bash
然后创建另一个新的容器,挂载dbdata2容器,并使用untar解压备份文件到所挂载的容器卷中即可:
[root@localhost ~]# docker run --volumes-from dbdata2 -v $(pwd):/b