Linux bom转utf-8,linux 批量转换UTF8到GB2312并处理UTF8的BOM标记

#!/bin/bash

for loop in `find . -type f -name "*.sql" -print`

do

echo $loop

mv -f $loop $loop.tmp

dos2unix $loop.tmp

file_check_utf8='file_check_utf8.log'

sed -n '1l' $loop.tmp >$file_check_utf8

if grep '^\\357\\273\\277' $file_check_utf8 >/dev/null 2>&1

then

echo 'UTF-8 BOM'

sed -n -e '1s/^...//' -e 'w intermediate.txt' $loop.tmp

iconv -f UTF-8 -t GB2312 -o $loop intermediate.txt

rm -rf intermediate.txt

rm -rf $loop.tmp

elif iconv -f UTF-8 -t GB2312 $loop.tmp >/dev/null 2>&1

then

echo 'UTF-8'

iconv -f UTF-8 -t GB2312 -o $loop $loop.tmp

rm -rf $loop.tmp

else

echo 'ANSI'

mv -f $loop.tmp $loop

fi

rm -rf $file_check_utf8

#模拟unix2dos,要求文本文件最后一行必须有换行符

sed -n -e 's/$/\r/g' -e 'w '$loop.tmp $loop

mv -f $loop.tmp $loop

done

#!/bin/bash

for loop in `find . -type f -name "*.sql" -print`

do

echo $loop

mv -f $loop $loop.tmp

dos2unix $loop.tmp

file_check_utf8='file_check_utf8.log'

sed -n '1l' $loop.tmp >$file_check_utf8

if grep '^\\357\\273\\277' $file_check_utf8 >/dev/null 2>&1

then

echo 'UTF-8 BOM'

sed -n -e '1s/^...//' -e 'w intermediate.txt' $loop.tmp

iconv -f UTF-8 -t GB2312 -o $loop intermediate.txt

rm -rf intermediate.txt

rm -rf $loop.tmp

elif iconv -f UTF-8 -t GB2312 $loop.tmp >/dev/null 2>&1

then

echo 'UTF-8'

iconv -f UTF-8 -t GB2312 -o $loop $loop.tmp

rm -rf $loop.tmp

else

echo 'ANSI'

mv -f $loop.tmp $loop

fi

rm -rf $file_check_utf8

#模拟unix2dos,要求文本文件最后一行必须有换行符

sed -n -e 's/$/\r/g' -e 'w '$loop.tmp $loop

mv -f $loop.tmp $loop

done

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值