linux切大文件为小文件,linux下shell脚本切割大文件为多个小txt文件

解决方法：

1. 先使用split命令切割大文件，每个小文件保存100万行

split 参数：

-b  ：后面可接欲分割成的档案大小，可加单位，例如 b, k, m 等；

-l  ：以行数来进行分割；

#按每个文件1000行来分割除

split -l 1000 httperr8007.log httperr

httpaa，httpab，httpac ........

#按照每个文件100K来分割

split -b 100k httperr8007.log http

httpaa，httpab，httpac ........

2. 遍历所有100万行文件，逐个新建目录再切割成1万行小文件

#!/bin/bash

bigfile="1.txt"

split -l 1000000 $bigfile text

currdir=1

for smallfile in `ls | grep "text*"`

do

linenum=`wc -l $smallfile | awk '{print $1}'`

n1=1

file=1

savedir="$smallfile$currdir"

if [ ! -d "$savedir" ]

then

mkdir $savedir

fi

while [ $n1 -lt $linenum ]

do

n2=`expr $n1 + 9999`

sed -n "${n1},${n2}p" $smallfile > $savedir/text$file.txt

n1=`expr $n2 + 1`

file=`expr $file + 1`

done

currdir=`expr $currdir + 1`

done