python csv 转 hdf

# coding: utf-8
import os
import pandas as pd
import numpy as np
import re


def scan_files(directory, prefix=None, postfix=None):
    files_list = []

    for root, sub_dirs, files in os.walk(directory):
        for special_file in files:
            if postfix:
                if special_file.endswith(postfix):
                    files_list.append(os.path.join(root, special_file))
            elif prefix:
                if special_file.startswith(prefix):
                    files_list.append(os.path.join(root, special_file))
            else:
                files_list.append(os.path.join(root, special_file))

    return files_list


if __name__ == '__main__':
    directory = '/home/companyshare/研发部/data/future_tick'

    for files in scan_files(directory):

        if files != '/home/companyshare/研发部/data/future_tick/hdf' and files != '/home/companyshare/研发部/data/future_tick/raw':

            if files.find('.csv')!=-1:
                try:
                    df = pd.read_csv(open(r'{0}'.format(files), encoding='GBk'))

                    files_e = files.split('/')
                    files_e.insert(6, 'hdf')
                    total_str = ''
                    for x in files_e:
                        total_str += x + '/'

                    total_str = total_str.replace('.csv/', '.hdf')
                    if os.path.exists(os.path.dirname(total_str)) == False:
                        os.makedirs(os.path.dirname(total_str))

                    df.to_hdf(total_str, 'df',mode='w')
                    print("successful"+total_str)
                except:

                    print(files)
                    continue








  • 0
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值