bucketId out of range: -1 (state=,code=0)

hive select * from table 出现如上报错

背景 集群为cdp ,hive版本为3.1

集群最开始安装了hive 和tez 没有安装hive on tez。后面发现select count(1)的时候没有启动tez

最后是 hive 不安装 hiveserver2

 hive on tez 安装了 

 另外 这个版本的hive有时候是建外表的,有时候是内表,搞得我都怀疑自己了。。。

建议大家都show create table 看下

 说完了。然后我们是用datax从postgresql导数到hive。 这套我们之前在cdh上已经跑了很久了,没有任何问题。结果在cdp的时候报错了。

 .

唉 。最后百度无果,国内垃圾,只会抄袭。

set hive.mapred.mode=nonstrict;

set hive.optimize.ppd=true;

set hive.optimize.index.filter=true;

set hive.tez.bucket.pruning=true; --根据大佬所说 这条是关键

set hive.explain.user=false;

set hive.fetch.task.conversion=none; --实际上这条关键?

set hive.support.concurrency=true;

set hive.txn.manager=org.apache.hadoop.hive.ql.lockmgr.DbTxnManager;

干,虽说不理解这是啥意思 但是复制了这段 确实就好了。

 还有另外一种。查原码

[HIVE-23051] Clean up BucketCodec - ASF JIRAhttps://issues.apache.org/jira/browse/HIVE-23051 

 直接说了这里一直为true。所以移除就行。自己替换下jar就行。

其实我猜测hive3.1默认是桶表,然后我又没有分桶 桶数量就是-1.这里就会报错

那么经过实测set hive.fetch.task.conversion=none; 这条set起了作用为什么?

因为这条作用的让hive直接加载文件,之前我们select*有问题 ,那么和这个直接加载也是有关系的。因为我们在select count(1)的时候不会报错 只会显示数据为0

  • 3
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 10
    评论
这个错误出现在字符串的索引超出范围时。在引用中,错误消息为"String index out of range: 8000",而在你的问题中,错误消息为"String index out of range: -1"。这个错误通常发生在通过索引访问字符串时,索引超出了字符串的长度范围。 在引用中,提供了一个Java程序示例。该程序读取一个文件的内容,并按照特定的规则对内容进行排序,然后将排序后的内容写入到另一个文件中。在这个示例中,没有看到任何与字符串索引相关的操作,因此无法直接解释你提供的错误消息。 为了更好地帮助你解决问题,请提供更多的上下文信息,包括你遇到该错误的具体代码和相关的输入数据。这将有助于我更准确地分析和解释你遇到的问题。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [MyBatis使用Mapper查询时报错:java.lang.StringIndexOutOfBoundsException: String index out of range: ...](https://blog.csdn.net/libertine1993/article/details/80245005)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *2* *3* [java.lang.StringIndexOutOfBoundsException: String index out of range: -1](https://blog.csdn.net/weixin_46113448/article/details/125354541)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 10
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值