linux下切割大文件

背景:工作传输数据的时候,经常会遇到限制文件大小的情况,这是就要将大文件切割成几个小文件,用过for循环+sed的方法,还有split的方法,刚发现split本身提供了不同场景的切割方法。整理一下,非常好用。

首先split --help linux会显示命令的帮助,提供了“a”“b”“C”“d”“l”五个选项注意:C是大写,小写报错


我在这里准备了一个6K多,100行的info.txt文件做演示


文件内容如下:


场景一:按文件大小切分 每个1K(也可以选择‘M’‘G’‘T’等)执行split -b 1k info.txt   结果如下,每个文件被均分为1K

的7个文件,第七个小。其中‘1_’做为文件的前缀。


但是看一下每个文件的内容发现,有的行不完整了


执行split -C 1k info.txt 发现文件不是均分成1K但是文件的内容是完整的,所以大家懂了吧



场景二:按行切分(这里一次演示剩下的3个命令)

执行split -l 10 -d -a 3 info.txt 1_

可以看到-l把每个文件切成10行文件的后缀不是aa变成了000这是-d的效果,用数子后缀,-a 3是后缀3个,如果-a 4 后缀就变成了0000



每个都是10行

个人原创,转载请注明出处

要按大小切割日志文件,可以使用 logrotate 工具来实现。logrotate 工具可以定期对指定的日志文件进行轮转,以便于管理和备份。 以下是按大小切割日志文件的步骤: 1. 安装 logrotate 工具,可以使用以下命令进行安装: ``` sudo apt-get install logrotate ``` 2. 创建一个 logrotate 配置文件,可以在 /etc/logrotate.d 目录下创建一个新的文件,例如 /etc/logrotate.d/myapp。在该文件中,可以配置需要轮转的日志文件、轮转周期、保存的备份数量等参数。例如: ``` /var/log/myapp.log { size 10M rotate 5 compress dateext create 0644 root root } ``` 上面的配置表示,对 /var/log/myapp.log 文件进行轮转,当文件大小达到 10M 时进行轮转,最多保存 5 个备份文件,使用 gzip 进行压缩,备份文件名添加日期后缀,新建备份文件的权限为 0644,属主为 root。 3. 手动执行 logrotate 来进行日志轮转,可以使用以下命令来进行手动轮转: ``` logrotate -f /etc/logrotate.d/myapp ``` 上面的命令表示,强制执行 /etc/logrotate.d/myapp 配置文件中定义的轮转操作。 4. 配置 logrotate 定时任务,定期执行轮转操作。可以编辑 /etc/crontab 文件,添加以下行: ``` 0 0 * * * root logrotate -f /etc/logrotate.d/myapp ``` 上面的配置表示,每天午夜 0 点执行 logrotate 命令来进行日志轮转。 注意:在配置 logrotate 时,需要根据实际情况进行配置,以免误删重要的日志信息。另外,需要按照一定的规则来命名备份文件,以便于管理和查找。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值