spark保存取数结果为csv文件技巧

问题

生成的取数结果含有纯数字,在保存为csv文件并用Excel或WPS查看结果时,数字会以科学表达式,或Excel默认的单元格格式展示,非常的不友好
在这里插入图片描述

描述

在通过pyspark脚本,按需求清洗(按条件筛选)、聚合(按日期、月份进行分组)后,得到的数据,通常会包含纯数字的用户id(如 05912000003186)或者编码code(如 00600637000000010000000007149945变为6.00637E+29),同时调整单元格格式又找不到符合的格式

原数据Excel展示数据
006006370000000100000000071499456.00637E+29

方法

在纯数字的末尾添加tab制表符(转义字符 ‘\t’)

import pyspark.sql.functions as F
df = df.select('user_id','code')
df1 = df.withColumn("sep", F.lit("\t"))
data = df1.withColumn("new_code", F.concat(df1.code, df1.sep))

结果如下图
在这里插入图片描述
Excel上展示效果
在这里插入图片描述

这样就可以巧妙的避免Excel自动处理纯数字的数据

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值