![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
运行SparkSQL报错
仓库管理媛Zo蒙u
数据仓库
展开
-
执行sparksql时报错,显示查询不到表分区下的子分区
报错如图解决办法:添加开启文件递归查询的参数set hive.mapred.supports.subdirectories=true;set mapreduce.input.fileinputformat.input.dir.recursive=true;原创 2021-08-23 14:36:07 · 519 阅读 · 0 评论 -
azkaban运行sparkSQL报错:azkaban.jobExecutor.utils.process.ProcessFailureException
azkaban运行SparkSQL时报如上错误,解决过程:1、首先百度查阅问题,有说是将文件格式设置为unix格式即可,于是检查发现格式并没有错。2、将cluster运行模式修改为了client模式,再次运行,查看到详细报错如下:然后有两种解决方法:1、增加动态分区数量(因为不知道增加多少合适,所以该方法我没有尝试,选用了第二种);2、将SparkSQL里,分区字段由原来的开头挪到最后一个位置,我是以dt为分区字段,具体如下:select column1,column2,co..原创 2020-11-13 10:13:09 · 1080 阅读 · 0 评论