python下载某猫data生成的xlsx通过脚本转换成csv上传至hive集群做数据处理

商品信息有关内部信息不便透露,python程序做登录以及商品数据的下载,因为只能下载excel,所以需要转正csv,这里需要做sheet分页读取。
#-*- coding: utf-8 -*-
import csv
import openpyxl
 
def xlsx_to_csv_data():
  data = openpyxl.load_workbook('/home/hadoop/data/ali/a.xlsx')
  # 获取所有的表格
  sheets = data.get_sheet_names()
 
  list1 = []
  # 循环遍历所有sheet
  for t in range(len(sheets)):
    sheet = data.get_sheet_by_name(sheets[t]) 
    len_row = sheet.max_row
    len_column = sheet.max_column
    #合并的时候只保留第一张表的表头部分
    if t == 0:
        for i in range(1,len_row+1):
            list2 = []
            for j in range(1,len_column+1):
                list2.append(sheet.cell(row=i,column=j).value)
            list1.append(list2)
    else:
        for i in range(2,len_row+1):
            list2 = []
            for j in range(1,len_column+1):
                list2.append(sheet.cell(row=i,column=j).value)
            list1.append(list2)
  
  with open('/home/hadoop/data/ali/a.csv', 'w', newline='') as f:
    writer = csv.writer(f)
    writer.writerows(list1)
    f.close()

if __name__ == '__main__':
  xlsx_to_csv_data()

在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值