8.29心里云服务访问失败原因

心里云服务访问失败原因自定义目录标题)

Docker占满磁盘资源问题
2018-03-08 00:36:45 字数 6091 阅读 2731 评论 0
今天Blog突然不能访问了，转了个去发最后现是Docker把磁盘资源给耗尽了。
https://ashub.cn/articles/42
这是我的服务器出事前的磁盘情况

[root@izwz976w028dljcewqapz3z www]# df -h
Filesystem Size Used Avail Use% Mounted on
/dev/vda1 40G 38G 0 100% /
devtmpfs 487M 0 487M 0% /dev
tmpfs 497M 0 497M 0% /dev/shm
tmpfs 497M 744K 496M 1% /run
tmpfs 497M 0 497M 0% /sys/fs/cgroup
tmpfs 100M 0 100M 0% /run/user/0
overlay 40G 38G 0 100% /var/lib/docker/overlay2/088636d3e416060202a067e90f0c947494d8ba8c6b910315cb02d18abef5be8b/merged
overlay 40G 38G 0 100% /var/lib/docker/overlay2/74f2b03e77eef6fd2833eaa1ef1fb2e5ea2f0f3671afbd6938c16d5907d5bdb7/merged
overlay 40G 38G 0 100% /var/lib/docker/overlay2/824c70dee943d5d927343f898d508820072905191185c8ce8b2413be600e5f63/merged
shm 64M 0 64M 0% /var/lib/docker/containers/6207338e525182f31d8beffae0e8f45ffbdeed9d170293d7c3751bbd2374239c/shm
overlay 40G 38G 0 100% /var/lib/docker/overlay2/7a4fa4d124647c1ee70fa6ede9136027574dbf5795205e2dc32d446eb01a7a8c/merged
shm 64M 0 64M 0% /var/lib/docker/containers/680fba7ffdadf39a925f816edcaf687872f2e3025e175b759522161830444520/shm
shm 64M 0 64M 0% /var/lib/docker/containers/a2e8bb9ce585aea2a6c6dadf81ad4ec987bc8cfaaf0e8b040bfee8e59086ba62/shm
shm 64M 0 64M 0% /var/lib/docker/containers/1c06e8a882775ff2108a8c40b8102e3181323283e4b67c66d4401a60bffe98ea/shm
在我重启或关闭docker-compose之后，磁盘资源就被释放了

[root@izwz976w028dljcewqapz3z docker-lnmp]# docker-compose down
Stopping nginx … done
Stopping php … done
Stopping redis … done
Stopping mysql … done
Removing nginx … done
Removing php … done
Removing redis … done
Removing mysql … done
Removing network dockerlnmp_default
[root@izwz976w028dljcewqapz3z docker-lnmp]# df -h
Filesystem Size Used Avail Use% Mounted on
/dev/vda1 40G 8.7G 29G 24% /
devtmpfs 487M 0 487M 0% /dev
tmpfs 497M 0 497M 0% /dev/shm
tmpfs 497M 464K 496M 1% /run
tmpfs 497M 0 497M 0% /sys/fs/cgroup
tmpfs 100M 0 100M 0% /run/user/0
[root@izwz976w028dljcewqapz3z docker-lnmp]# docker-compose up -d
虽然重启解决了我的问题，但这对线上服务来说不是一个恰当的解决方案，所以我还是整理了下一些网上的解决方案，用来下次尝试解决此问题。

如果Docker一不小心把磁盘空间全占满了，你的服务也就算玩完了，因此所有Docker用户都需要对此保持警惕。当然，大家也不要紧张，这个问题还是挺好解决的。

1. docker system命令
   在谁用光了磁盘？Docker System命令详解中，我们详细介绍了docker system命令,它可以用于管理磁盘空间。

docker system df命令，类似于Linux上的df命令，用于查看Docker的磁盘使用情况:

[root@izwz976w028dljcewqapz3z www]# docker system df
TYPE TOTAL ACTIVE SIZE RECLAIMABLE
Images 6 4 888.8MB 223MB (25%)
Containers 11 4 1.729GB 1.606GB (92%)
Local Volumes 75 1 0B 0B
Build Cache 0B 0B
可知，Docker镜像占用了888.8MB磁盘，Docker容器占用了1.729GB磁盘，Docker数据卷占用了0B磁盘。

docker system prune命令可以用于清理磁盘，删除关闭的容器、无用的数据卷和网络，以及dangling镜像（即无tag的镜像）。

docker system prune -a命令清理得更加彻底，可以将没有容器使用Docker镜像都删掉。

注意，这两个命令会把你暂时关闭的容器，以及暂时没有用到的Docker镜像都删掉了…所以使用之前一定要想清楚吶。

执行docker system prune -a命令之后，Docker占用的磁盘空间减少了很多：

[root@izwz976w028dljcewqapz3z www]# docker system df
TYPE TOTAL ACTIVE SIZE RECLAIMABLE
Images 4 4 742.6MB 0B (0%)
Containers 4 4 122.9MB 0B (0%)
Local Volumes 75 1 0B 0B
Build Cache
2. 手动清理Docker镜像/容器/数据卷
对于旧版的Docker(版本1.13之前)，是没有docker system命令的，因此需要进行手动清理。这里给出几个常用的命 删除所有关闭的容器

docker ps -a | grep Exit | cut -d ’ ’ -f 1 | xargs docker rm
删除所有dangling镜像(即无tag的镜像)：

docker rmi $(docker images | grep “^” | awk “{print $3}”)
删除所有dangling数据卷(即无用的volume)：

docker volume rm $(docker volume ls -qf dangling=true)
3. 限制容器的日志大小
有一次，当我使用1与2提到的方法清理磁盘之后，发现并没有什么作用，于是，我进行了一系列分析。

在Ubuntu上，Docker的所有相关文件，包括镜像、容器等都保存在/var/lib/docker/目录中：

du -hs /var/lib/docker/
97G /var/lib/docker/
Docker竟然使用了将近100GB磁盘，这也是够了。使用du命令继续查看，可以定位到真正占用这么多磁盘的目录：

92G /var/lib/docker/containers/a376aa694b22ee497f6fc9f7d15d943de91c853284f8f105ff5ad6c7ddae7a53
由docker ps可知，nginx容器的ID恰好为a376aa694b22，与上面的目录/var/lib/docker/containers/a376aa694b22的前缀一致：

docker ps
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
a376aa694b22 192.168.59.224:5000/nginx:1.12.1 “nginx -g 'daemon off” 9 weeks ago Up 10 minutes nginx
因此，nginx容器竟然占用了92GB的磁盘。进一步分析可知，真正占用磁盘空间的是nginx的日志文件。那么这就不难理解了。我们Fundebug每天的数据请求为百万级别，那么日志数据自然非常大。

使用truncate命令，可以将nginx容器的日志文件“清零”：

truncate -s 0 /var/lib/docker/containers/a376aa694b22ee497f6fc9f7d15d943de91c853284f8f105ff5ad6c7ddae7a53/*-json.log
当然，这个命令只是临时有作用，日志文件迟早又会涨回来。要从根本上解决问题，需要限制nginx容器的日志文件大小。这个可以通过配置日志的max-size来实现，下面是nginx容器的docker-compose配置文件：

nginx:
image: nginx:1.12.1
restart: always
logging:
driver: “json-file”
options:
max-size: “5g”
重启nginx容器之后，其日志文件的大小就被限制在5GB，再也不用担心了~

4. 重启Docker
   还有一次，当我清理了镜像、容器以及数据卷之后，发现磁盘空间并没有减少。根据Docker disk usage提到过的建议，我重启了Docker，发现磁盘使用率从83%降到了19%。根据高手指点，这应该是与内核3.13相关的BUG，导致Docker无法清理一些无用目录：

it’s quite likely that for some reason when those container shutdown, docker couldn’t remove the directory because the shm device was busy. This tends to happen often on 3.13 kernel. You may want to update it to the 4.4 version supported on trusty 14.04.5 LTS.

The reason it disappeared after a restart, is that daemon probably tried and succeeded to clean up left over data from stopped containers.

我查看了一下内核版本，发现真的是3.13:

uname -r 3.13.0-86-generic 如果你的内核版本也是3.13，而且清理磁盘没能成功，不妨重启一下Docker。当然，这个晚上操作比较靠谱。

参考

谁用光了磁盘？Docker System命令详解

INTRODUCING DOCKER 1.13

Docker文档：docker system

Docker文档：json-file

Docker disk usage