Docker load 大镜像(17G) 报错no space left on device

原创 已于 2022-11-14 19:59:51 修改 · 2.3k 阅读 · 9 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#docker #容器 #运维

于 2022-10-13 09:32:35 首次发布
本文介绍了解决Docker因默认存储限制导致容器无法写入新数据的问题。通过调整Docker服务端启动参数，如dm.basesize和dm.loopmetadatasize，可有效提升容器和镜像的存储容量。

在这里插入图片描述

# 导入加载镜像，test.tar大小有16G左右
docker load -i test.tar

报错信息

制作镜像失败：【ApplyLayer exit status1 stdout:stderr:write /home/appuser/.local/MIb/python3.7/site-
packages/scipy/linalg/tests/pycache_/test_decomp_update.cpython-37.pyc:no space left on device

问题排查

是Base Device Size的问题，其默认值是10G，而容器经过一段时间的运行写入文件量早已超过10G，就造成无法写入数据的问题了

Doker 的默认配置

# docker info
[root@fly ~]# docker info
Containers: 8
 Running: 8
 Paused: 0
 Stopped: 0
Images: 8
Server Version: 18.09.0
Storage Driver: devicemapper
 Pool Name: docker-0:108-164868621-pool
 Pool Blocksize: 65.54kB
 Base Device Size: 10.74GB
 Backing Filesystem: xfs
 Udev Sync Supported: true
 Data file: /dev/loop0
 Metadata file: /dev/loop1
 Data loop file: /public/docker/devicemapper/devicemapper/data
 Metadata loop file: /public/docker/devicemapper/devicemapper/metadata
 Data Space Used: 846.6MB
 Data Space Total: 107.4GB
 Data Space Available: 106.5GB
 Metadata Space Used: 19.81MB
 Metadata Space Total: 17.05GB
 Metadata Space Available: 17.03GB
 Thin Pool Minimum Free Space: 10.74GB
 Deferred Removal Enabled: true
 Deferred Deletion Enabled: true
 Deferred Deleted Device Count: 0
 Library Version: 1.02.149-RHEL7 (2018-07-20)
Logging Driver: json-file
Cgroup Driver: systemd
Plugins:
 Volume: local
 Network: bridge host macvlan null overlay
 Log: awslogs fluentd gcplogs gelf journald json-file local logentries splunk syslog
Swarm: inactive
Runtimes: runc
Default Runtime: runc
Init Binary: docker-init
containerd version: c4446665cb9c30056f4998ed953e6d4ff22c7c39
runc version: 4fc53a81fb7c994640722ac585fa9ca548971871
init version: fec3683
Security Options:
 seccomp
  Profile: default
Kernel Version: 3.10.0-957.el7.x86_64
Operating System: CentOS Linux 7 (Core)
OSType: linux
Architecture: x86_64
CPUs: 32
Total Memory: 188.2GiB
Name: admin1
ID: 5IMT:GNNU:MFJS:IJJ6:RZJS:7CA7:N5QC:ZSF6:223N:5CB6:NFFM:W2N6
Docker Root Dir: /public/docker
Debug Mode (client): false
Debug Mode (server): false
Registry: https://index.docker.io/v1/
Labels:
Experimental: false
Insecure Registries:
 192.168.172.128:5000
 192.168.172.128:5001
 127.0.0.0/8
Registry Mirrors:
 http://hub-mirror.c.163.com/
 https://registry.docker-cn.com/
 https://docker.mirrors.ustc.edu.cn/
Live Restore Enabled: false
Product License: Community Engine

WARNING: bridge-nf-call-iptables is disabled
WARNING: bridge-nf-call-ip6tables is disabled
WARNING: devicemapper: usage of loopback devices is strongly discouraged for production use.
         Use `--storage-opt dm.thinpooldev` to specify a custom block storage device.
  • Base Device Size: 10.74GB
  • Data Space Total: 107.4GB
  • Metadata Space Total: 17.05GB

问题解决

调整docker服务端启动参数

# vim /usr/lib/systemd/system/docker.service
[root@fly ~]# grep "ExecStart=" /usr/lib/systemd/system/docker.service
ExecStart=/usr/bin/dockerd  -H fd:// --containerd=/run/containerd/containerd.sock -s=devicemapper --storage-opt dm.basesize=60G --storage-opt dm.loopmetadatasize=20G
  • dm.basesize 默认为10G，限制容器和镜像的大小
  • dm.loopdatasize 存储池大小，默认为100G
  • dm.loopmetadatasize 元数据大小，默认为2G
  • dm.datadev 存储池设备，默认生成一个/var/lib/docker/devicemapper/devicemapper/data文件
  • dm.metadatadev 元数据设备，默认生成一个/var/lib/docker/devicemapper/devicemapper/metadata文件
  • dm.fs 用于基本映像的文件系统（xfs或ext4）
  • dm.blocksize：精简池的自定义块大小。默认值为64K。

具体可参考官方文档： https://docs.docker.com/engine/reference/commandline/dockerd/

当一个容器的数据空间大于10GB后，那么这个容器将不能写入新的数据文件。如果容器需要很大的数据空间，可以使用数据卷挂在到宿主机或存储上。当容器太多使用数据卷挂载方式后，所有容器使用的数据空间已经大于100GB，这时将不能新建或运行容器。如何突破这种限制，这篇文章给出了解答：https://github.com/docker/docker/tree/master/daemon/graphdriver/devmapper
分两种情况讨论：
1、如果docker第一次启动，在启动docker前，可以使用参数–storage-opt分别指定dm.basesize、dm.loopdatasize、dm.loopmetadatasize等项，指定单个容器可用数据空间、docker可用数据空间、元数据可用数据空间。
2、如果是正在运行的docker，需要导出镜像docker commit、docker push、docker save等操作，然后停止docker服务，删除docker的数据文件（centos6.6是rm -rf /var/lib/docker/）。再修改docker的配置文件/etc/sysconfig/docker，重启docker服务生效。最后导入备份的镜像启动容器。

修改完配置后, 重启docker

systemctl daemon-reload
systemctl restart docker

查看调整

# ps -ef | grep docker|grep /usr/bin/dockerd|grep -v grep
[root@fly ~]# ps -ef | grep docker|grep /usr/bin/dockerd|grep -v grep
root     23665     1  9 10月12 ?      01:25:52 /usr/bin/dockerd --bip=173.0.52.1/24 --ip-masq=true --mtu=1450 --graph /public/docker --storage-opt dm.basesize
=60G --storage-opt dm.loopmetadatasize=20G

参考

https://docs.docker.com/engine/reference/commandline/dockerd/
https://github.com/moby/moby/tree/master/daemon/graphdriver/devmapper

【报错】【docker】write /opt/test/Model.gguf: no space left on device
静谧、淡雅
06-11 237
write /opt/test/Model.gguf: no space left on device
Docker构建镜像时空间不足：/var/lib/docker，no space left on device
Heartsuit的博客
12-16 3760
在一次更新业务服务功能后，重新在服务器上构建微服务镜像，在构建镜像时报错空间不足：/var/lib/docker, no space left on device 赶紧用 df -h 看了下磁盘使用情况，果然， devicemapper 已经满了。。由于需要紧急上线，没有采用迁移 Docker 工作目录的方式；而是想办法删除一些没用的文件，空出本次镜像构建、容器运行的空间。记得在操作之前备份数据。
Docker no space left on device解决办法
12-01
解决docker报错Docker no space left on device
Docker 加载镜像时出现 “no space left on device” 错误的解决方法
最新发布
分享实践与思考
08-07 753
在 Docker 使用过程中，"no space left on device" 错误是常见的磁盘空间不足问题。本文将结合实战操作，详细介绍该问题的排查与解决步骤，帮助开发者快速定位并修复问题。
docker load镜像发现“no space left on device”问题
因上努力，果上随缘。但行好事，莫问前程。
10-28 4317
可以看到docker的根路径是 /var/lib/docker。
Docker: load镜像时提示(no space left device)解决方案
Felaim的博客
04-26 1万+
Docker: load镜像时提示(no space left device)解决方案 1. 背景 LZ花了几天时间配置了一套sever环境,期间无比痛苦真的,但是基本上配置完一次后一劳永逸,只要把对应的镜像load进服务器,就不用再配置环境了,虽然前期麻烦很多,但是无论换什么机器,LZ基本上可以是一键部署了,不过这也是刚刚学习的一个新技能,所以应用起来并不是很熟练,尤其是遇到使用gpu的一些问题...
Docker报错no space left on device的磁盘清理与存储驱动配置
shejizuopin的博客
05-30 823
Docker磁盘空间不足("no space left on device")问题的解决方法：1) 使用df -h查看磁盘使用情况；2) 通过docker system prune清理未使用的容器、镜像、网络和数据卷；3) 清空或限制日志文件；4) 必要时迁移Docker数据目录到更大分区；5) 优化存储驱动配置，如切换至overlay2。文末提供了详细的磁盘清理命令和存储驱动配置表格参考。
Docker报错no space left on device的磁盘清理
shejizuopin的博客
05-22 1205
遇到Docker报错“no space left on device”时，通常是由于磁盘空间不足。主要原因包括Docker镜像、容器、日志文件、卷和构建缓存占用过多空间。解决方案包括：1. 使用docker system prune等命令清理未使用的镜像和容器；2. 通过truncate命令或配置日志驱动清理日志文件；3. 使用docker volume prune清理未使用的卷；4. 使用docker builder prune清理构建缓存；5. 调整Docker存储驱动配置以优化磁盘使用。定期清理和合理
docker镜像安装空间不足no space left on device；docker pull失败
weixin_42357472的博客
03-21 1620
报错：Error processing tar file(exit status 1): open /usr/local/lib/libmkl_tbb_thread.so.1: no space left on device。主要是系统空间不足，把docker默认地址改到外部磁盘上。
docker在load镜像时出现no space left on device
zh515858237的专栏
09-08 1547
其实主要是docker镜像的默认目录路径空间不足导致的，修改该路径即可，在/etc/docker/daemon.json中加入如下的内容： "graph": "/NEW_PATH_TO_DOCKER/docker" 例如，最终修改后的daemon.json可以是这样(注意下面内容中的那个逗号别缺失了)： { "registry-mirrors": ["https://docker.mirrors.ustc.edu.cn"], "graph": "/NEW_PATH_TO_DOCKER/
docker load 大镜像失败问题
weixin_43824520的博客
10-29 5835
docker load 大镜像报错：ApplyLayer exit status 1 stdout: stderr: write /tmp/5ac18fa174ec7c0023908512/64f28e2740d4af275d36ee6b614104731571f841.zip: no space left on device 解决方案： 一、检查 /var/lib/docker 所在目录的空间是否足够,假使因为这个原因，只要将/var/lib/docker 挂载到较大的磁盘下就行，重启服务即可。 vim
Docker load镜像报错：UserError processing tar file(exit status 1): ......no space left on device
关于我的学习记录
06-23 3251
Error processing tar file(exit status 1): write /usr/local/cuda-10.2/targets/aarch64-linux/lib/libnvrtc.so.10.2.300: no space left on device
docker load 镜像时提示no space left device
weixin_44285715的博客
12-13 2246
问题描述： 将镜像文件（.tar.gz）上传到服务器上使用 docker load < your_image_name.tar 结果发现 Error processing tar file(exit status 1): write /var/lib/apt/lists/mirrors.aliyun.com_ubuntu_dists_bionic-updates_Contents-amd64.lz4: no space left on device 解决方案 出现此问题一般是dock
fix: docker load提示no space left on device
qq_37493884的博客
03-27 1242
sudodockerinfo| grepdfdumkdirsudochownsudomvlnsudodockerinfo| grepsudo。
docker虚拟机满了解决方法no space left on device（ [ERROR] Unknown/unsupported storage engine: InnoDB ）
FourAu的博客
03-27 964
如果你想让这个磁盘在每次系统启动时都自动挂载，可以将挂载信息添加到/etc/fstab文件中。找到你要挂载的磁盘，并创建一个目录来作为挂载点。忙了一天，发现说此版不够用户，第一时间是给虚拟机分配磁盘。虚拟机中分配完磁盘后，需要将其挂载到虚拟机的文件系统中才能使用。在这个命令中，/dev/sdb1是要挂载的磁盘设备名称，/mnt/mydisk是挂载点目录。这个命令会将挂载信息写入fstab文件中，这样系统在启动时会自动挂载这个磁盘。修复完后检查了一下，原来是日志满了，差点删除docker容器了。
linux中运行docker等命令报 “no space left on device”（磁盘空间不足）问题排查过程以及经验总结
热门推荐
wei1359765074410的博客
03-14 2万+
生产环境linux中运行docker命令报“no space left on device”（磁盘空间不足),很多linux命令无法自动提示，从而进行一系列问题排查和处理。
docker- No space left on device
weixin_45822638的博客
09-17 1533
首先检查一下有没有用不到的镜像，docker images 可以进行rmi，但一般都还有用。
VMware使用docker load命令加载镜像信息提示Error processing tar file(exit status 1): no space left on device问题解决
程序猿的博客
12-18 1617
完成上述操作后，你的虚拟机就可以正常使用新增的硬盘了，并且可以为 Docker 提供更多的存储空间。通过上述方法如果不能解决，可以尝试扩容硬盘空间，以下是VMware虚拟机针对扩容的详细步骤。在虚拟机中运行以下命令，查看是否能看到新增的硬盘设备（通常是。：目标路径所在的磁盘分区可能已经满了。：Docker 加载镜像时会使用临时目录（默认。：删除不需要的日志文件、临时文件或旧数据。），如果临时目录空间不足也会引发问题。：Docker 的存储目录（默认。如果看到新硬盘设备（如。）所在的分区可能满了。
windows docker desktop load -i mysql提示no space left on device
01-12
### Windows Docker Desktop 加载 MySQL 镜像时磁盘空间不足解决方案 #### 一、检查并清理现有资源 对于“no space left on device”的错误提示，在Docker中启动容器失败可能是因为宿主机上的可用存储空间不足以创建新的AUFS挂载点[^2]。因此，应当先确认当前系统的剩余容量情况。 可以通过命令`docker system df`来查看各个卷、镜像和容器占用的空间大小；利用`docker images ls`列出所有本地存在的镜像文件以便识别不再使用的项目进行删除操作以释放更多位置给新实例使用。 如果存在大量未被充分利用或者已经停止运作的服务进程，则可以考虑通过执行`docker rm $(docker ps -a -q)`移除这些无用实体从而腾出宝贵的数据区段供后续部署任务调用。 另外，定期清除悬空（dangling）的镜像是保持工作环境整洁的好习惯之一，这可通过下面这条指令完成： ```bash docker rmi $(docker images -f "dangling=true" -q) ``` #### 二、调整默认存储路径或增加分配额度 有时即使进行了上述优化措施之后仍然无法满足需求，这时就需要思考改变默认保存数据的位置或者是扩大分区本身的尺寸了。 - **更改默认存储目录**：可以在安装前指定不同的根目录作为Docker守护程序的工作区域，比如将其迁移到具有更大容量的驱动器上。具体做法是在服务启动参数里加入类似这样的选项`--data-root="E:\docker-data"`(假设目标盘符为E:)。 - **扩展虚拟硬盘(VHD)**：如果是采用Hyper-V后端引擎的话，那么还可以尝试增大关联于该应用软件包所依赖的基础映像(.vhdx)的实际物理长度。此过程涉及到编辑注册表键值以及手动修改XML描述文档等内容，相对复杂一些但确实可行有效。 #### 三、设置合理的交换机制 适当启用Swap功能有助于缓解因RAM紧张而导致的整体性能下降现象，尤其是在运行大型应用程序期间更是如此。虽然这不是直接针对磁盘满溢状况提出的建议，但在某些情况下却能间接起到辅助作用。 需要注意的是，过度依赖swap可能会带来额外开销进而影响效率表现，所以要谨慎权衡利弊得失后再做决定。 ---
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

萤火AI百宝箱

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值