Python处理以BOM开头的UTF-8编码文件

EF BB BF是被称为 Byte order mark (BOM)的文件标记,用来指出这个文件是UTF-8编码。
UTF8的BOM有三个字节,分别是0xef, 0xbb, 0xbf, 因此在写你的文本之前,写入”\xef\xbb\xbf”即可标记文件为UTF-8编码文件。

linux下查找包含BOM头的文件和清除BOM头命令
查找包含BOM头的文件,命令如下:
grep -r -I -l $’^\xEF\xBB\xBF’ ./
这条命令会查找当前目录及子目录下所有包含BOM头的文件,并把文件名在屏幕上输出。
但是,删除BOM头,网上找到的命令大多不能用,比较常见的命令是:
find . -type f -exec sed -i ‘s/\xEF\xBB\xBF//’ {} \;
这个命令会把当前目录及所有子目录下的BOM头删除掉。

python处理前三个字节是否为BOM_UTF8

f = open("2017-5-17-1.txt","r")
lightSen = []

for line in f.readlines():
    if '\xef\xbb\xbf'  in line:
        str1 = line.replace('\xef\xbb\xbf','')#用replace替换掉'\xef\xbb\xbf'
        lightSen.append(int(str1.strip()))#strip()去掉\n
    else:
        lightSen.append(int(line.strip()))


print(lightSen)

f.close
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值