Python遍历路径下文件并转换成UTF-8编码

  开始学Python,这篇文章来自于应用需求。

  os.walk很方便,下面写了两个版本的函数进行遍历,分别是不使用walk和使用walk的。

import sys
import string
import os

def detect_nowalk(dir_path):
    files = os.listdir(dir_path)
    for filename in files:
        print "file:%s\n" % filename
        next = os.path.join(dir_path, filename)
        if os.path.isdir(next):
            print "file folds:%s\n" % filename
            detect_nowalk(next)

if __name__ == "__main__":
    detect_nowalk(".")
import sys
import os

def detect_walk(dir_path):
    for root, dirs, files in os.walk(dir_path):
        for filename in files:        
            print "file:%s\n" % filename
        for dirname in dirs:
            print "dir:%s\n" % dirname

if __name__ == "__main__":
    detect_walk(".")

  另外附上使用第一种方法转换文件编码的源码,有的文件转换后用gedit打开是乱码,但用vi查看是正确的。

import sys
import string
import codecs
import os
import shutil

def gbkToUtf8(path):
    files = os.listdir(path)
    for filename in files:
        if os.path.isdir(filename):
            print "file folds:%s\n" % filename
            gbkToUtf8(filename)
            continue

        try:
            tokens = string.splitfields(filename, '.')
            if len(tokens) != 2 or tokens[1] != 'txt':
                #print tokens[1]
                continue
            else:
                print 'Encode Converting (GBK to UTF-8) : ', filename
                utfFile=open(filename)
                tstr = utfFile.read()
                #tstr = utfFile.read().decode("gbk") is wrong
                tstr = tstr.encode("UTF-8")
                utfFile.close()
                utfFile = open(filename, 'w')
                utfFile.write(tstr)
                utfFile.close()
        except:
            print "error %s" %filename
        
if __name__ == "__main__":
    gbkToUtf8(".")

 

1.14更新:发现linux自带的iconv -f gb18030 -t utf8 a.txt >> b.txt更好用,而且有的用decode("gb18030")会出现乱码("gbk"一样乱码)的情况不再存在。在python脚本不难调用,就不详细写了。

 

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
可以使用Python的os和csv模块实现这个需求。具体操作步骤如下: 1. 导入必要模块 ```python import os import csv ``` 2. 定义一个函数,用于判断一个文件是否符合UTF-8编码格式 ```python def is_utf8(file_path): try: with open(file_path, encoding='utf-8') as f: for line in f: pass except UnicodeDecodeError: return False return True ``` 上面的代码中,我们采用了Python本身自带的UTF-8编码格式来打开文件,如果文件中含有非UTF-8编码的字符,代码会抛出UnicodeDecodeError异常,此时返回False。 如果文件符合UTF-8编码格式,则返回True。 3. 遍历指定文件夹内的所有csv文件,并将不符合UTF-8编码格式的文件转换为符合UTF-8编码格式的文件 ```python def convert_csv_files(folder_path): for file_name in os.listdir(folder_path): if file_name.endswith('.csv'): file_path = os.path.join(folder_path, file_name) if is_utf8(file_path): print(file_name + ':符合UTF-8编码格式') else: try: with open(file_path, encoding='gbk') as f: csv_reader = csv.reader(f) rows = [row for row in csv_reader] with open(file_path, 'w', encoding='utf-8', newline='') as f: csv_writer = csv.writer(f) csv_writer.writerows(rows) print(file_name + ':转换为符合UTF-8编码格式') except Exception as e: print(file_name + ':转换失败,原因:' + str(e)) ``` 上面的代码中,我们使用os模块的listdir函数遍历指定文件夹内的所有csv文件,如果文件符合UTF-8编码格式,则打印出该文件名并返回符合的结果。 否则,我们使用csv模块读取该文件,因为该文件不符合UTF-8编码格式,所以我们使用GBK编码格式来打开文件,并将文件的内容读取到一个二维数组中。 之后,我们再使用csv模块以UTF-8编码格式来写入文件。 如果在转换过程中出现异常,则捕获异常并打印异常信息。 4. 调用函数进行转换 ```python convert_csv_files('/path/to/folder') ``` 将上面的代码中的/path/to/folder替换为你要遍历文件路径即可。 完成上述步骤后,便可实现遍历指定文件夹内所有csv文件,如果不符合UTF-8编码格式,则转换为符合UTF-8编码格式的文件,并返回相应的结果。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值