spark 任务调试指南

一、有明确报错信息:

二、无明确报错信息:

  1. 查看是否类名错误或者没有类名
  2. spark 任务执行中是否有位置不合适的spark.stop() 方法存在。

spark sql 任务 (spark sql 读写 hive)

1、查询sql与插入结果不一致问题:

问题背景原因
使用spark-sql 执行任务insert over select 的语法执行任务,结果出入结果出现字段有串行的问题。spark sql 读取hive表的textfile 格式的表在写入paquet 格式的表的时候出现的格式解析的问题导致的数据串行
启示解决
spark sql 与 hive 非原生的搭配使用的时候容易出现这种因为格式问题导致的一系列问题;因此在使用开源以及非原生搭配的组件之间的格式兼容问题一定要格外小心修改表格式使用数据格式一致
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值