Spark structured 记录一次kudu扩容导致无法写入数据的问题

最新推荐文章于 2022-01-03 10:25:53 发布
最新推荐文章于 2022-01-03 10:25:53 发布
阅读量1k 收藏
点赞数
分类专栏： 大数据-kudu 大数据-spark
本文为博主九师兄（QQ:541711153 欢迎来探讨技术）原创文章，未经允许博主不允许转载。
本文链接：https://blog.csdn.net/qq_21383435/article/details/103247446
版权
大数据-spark 同时被 2 个专栏收录
204 篇文章 480 订阅 ¥49.90 ¥99.00
订阅专栏
大数据-kudu
21 篇文章 436 订阅 ¥19.90 ¥99.00
订阅专栏
在使用SparkStructured Streaming从Kafka向Kudu写入数据的过程中，遇到任务卡住且报找不到节点的错误。经排查，问题源于Kudu Master返回的地址为域名，而实际分区主机未在本地hosts文件中配置。由于近期Kudu进行了扩容，新节点的hosts未及时更新，导致写入失败。解决方法是在所有节点的hosts文件中添加新扩容节点的域名映射，从而恢复正常写入。
摘要由CSDN通过智能技术生成

1.背景

在这里插入图片描述

我们有个程序，是kafka写入到kudu,此时我们重启了一下任务，结果发现，任务运行后，就会卡主，提示是正在运行，但是实际上报错，打开日志，发现，一直报错找不到节点

can not access rds03 ip not found

这样一看，大约猜到是kudu master返回的地址是 域名，而我们获取到域名后，要将数据写到对应的分区中，分区是一个未知的host所对应的机器，然后我们很纳闷不应该的呀，因为我们的机器都在代理节点，meteor上添加了host的，然后我们又去确认一番，最后发现是对方扩容了，但是我们的节点没加hosts，最后加上了 就好了

九师兄
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
Spark Structured Kudu : RejectedExecutionException: Worker has already been shutdown
九师兄
07-04 1834
1.美图 2.背景 报错 20/01/16 00:08:49 INFO scheduler.TaskSetManager: Starting task 0.0 in stage 1.0 (TID 1, cdh-dev-node-119, executor 1, partition 0, PROCESS_LOCAL, 8074 bytes) 20/01/16 00:08:50 WARN schedu...
presto连接kudu建表与查询方法
liuya19921123的博客
11-15 4030
使用presto连接kudu查询引擎，在kudu中进行增删改查 查询数据 Apache Kudu 不支持模式，即表的命名空间。连接器可以选择通过表命名约定来模拟模 默认行为（无模式模拟） 默认情况下禁用模式模​​拟。在这种情况下，所有 Kudu 表都是default架构的一部分。 例如， 如果目录和模式分别设置为和，则orders可以在 Presto 中查询名为 的 Kudu 表。SELECT * FROM kudu.default.orders、SELECT * FROM orders。 表名
TPC-H和TPC-DS
soar的博客
02-09 2851
1、TPC-H商业智能计算测试TPC-H 是美国交易处理效能委员会(TPC,Transaction Processing Performance Council) 组织制定的用来模拟决策支持类应用的一个测试集.目前,在学术界和工业界普遍采用它来评价决策支持技术方面应用的性能. 这种商业测试可以全方位评测系统的整体商业计算综合能力，对厂商的要求更高，同时也具有普遍的商业实用意义，目前在银行信贷分...
kudu性能优化
longxibendi的专栏
03-19 5026
一.背景 一个实时业务，数据流 app -> nginx ->lua ->kafka -> spark streaming ->kudu ->zepplin 。 打开zepplin，实时数据出不来。看不到。 二.问题分析-结合链路 1.近期流量暴涨，单个用户的使用时长，由1-1.5h增加到 8-10h。 2.大量数据进入kakfa，得不到spa...
关于kudu使用的一些问题及解决办法
爱编程
01-26 4247
在client 1.5之前，由于kudu客户端链接的token有效时间是7天，当时间大于7天的时候token失效，客户端不会主动去刷新token，导致写入数据报错；  解决办法：kudu-client 版本使用1.5以上的版本  kudu数据flush的模式问题 AUTO_FLUSH_BACKGROUND：异步刷新可能会导致写入的时候乱序，因此有严格的顺序的写入操作可能
kudu初探小坑
LLittle.Kevin的博客
05-11 1965
前言在一个数据处理的项目中用到了kudu数据库．使用kudu api作为访问方式．在此记录一些遇到的小坑．那些坑1.尽量使用最新的版本．由于kudu api还在不断的完善，尽可能使用最新的api一方面能确保你遇到更少的bug，一方面也能有更好的错误日志反馈（用1.6的时候一些日志信息就不全，导致无法查找错误原因）2.kudu支持身份认证，认证方式可以参考官方文档的AsyncKuduSession....
Spark-Kudu报错：kudu.client.NonRecoverableException: The table was deleted: Table deleted at xxx
九师兄
07-04 1429
1.美图 2.背景 一个spark 写入到kudu 的程序，开始运行正常，后来报错了，错误如下 Exchange hashpartitioning(magr_pos_id#549, 12) +- *(17) Project [data_dt#524, acct_id#525, corp_scale#65, magr_pos_id#549] +- SortMergeJoin [CUST_ID...
大数据物流项目：主题及指标开发之如何对Kudu表数据分析【离线报表分析（1个主题）】（十）
Maynor的博客
05-28 1242
Logistics_Day10：主题及指标开发 ​ 主要讲解：实时ETL转换开发，编写结构化流（StructuredStreaming）程序，实时从Kafka消费数据，进行ETL转换处理，最终保存到Ku.
Logistics_Day17：自定义外部数据源ClickHouse
Maynor的博客
01-03 1168
​ 从Spark 1.3版本开始，提供一套完整外部数据源接口（External DataSource Interface）（第一代API）。比如SparkSQL内置数据源：JDBC、JSON、CSV等都是基于DataSource API V1实现功能。自定义外部数据源实现从HBase表批量加载load和保存save数据可以参考提供【06.扩展】提供代码实现，以及视频讲解。接口实现非常简单；能够满足大部分的使用场景；扩展能力有限，难以下推其他算子；缺乏对列式存储读取的支持；写操作不支持事务；
kudu报错解决
11-07 1万+
错误一： 解决办法： 1.4.0版本，因为master的元数据全部在本地磁盘文件，如果额外的添加了一个master，会报错，找不到consensus-meta,也就是master的容错机制，需要对数据格式化 错误二： impala中创建使用kudu存储，但是client端读取数据，读取不出来。 错误三： [New I/O worker #1] WARN org.apa
从头搭建presto+kudu+hive+hdfs(6节点)
fly0512的博客
07-07 3069
记录一下最近做的一个大数据集群安装： 安装版本：presto317、kudu1.10、hive3.1.2、hadoop3.1.2 几个主要软件的下载地址： presto https://prestosql.io/docs/current/index.html kudu rpm包地址 https://github.com/MartinWeindel/kudu-rpm/releases hive ht...
kudu参数优化设置，让集群飞起来~
独木不成林，单弦不成音。
12-03 1万+
根据数据体量，结合集群各节点的CPU、内存、磁盘的表现，合理优化设置kudu参数，让集群飞起来~ ！！！！
spark任务写入kudu表报错Failed to write at least 1000 rows to Kudu
qq_31454379的博客
03-08 1303
报错内容如下： 关键词： Failed to write at least 1000 rows to Kudu Not found: ([0x0000000081346280, 0x00000001813461CC))Not found: ([0x0000000081346280, 0x00000001813461CC))Not found: ([0x0000000081346280, 0x00000001813461CC))Not found: ([0x0000000081346280, 0x00000
大数据常用实时流处理方式（Kafka+SparkStream or ETL+Kudu）
NBA首席形象大使坤坤
07-23 5215
这两天刚完成一个项目，我有个习惯就是完了项目做一下总结和复盘 正好这两天没有事情，根据项目顺手做了一个Demo，算是对项目做一个实例化吧。 项目核心：展现实时数据流的处理方式 整体流程： Java模拟数据，发送到UDP ↓ ......
在Spark结构化流readStream、writeStream 输入输出，及过程ETL
热门推荐
图特摩斯科技-博客
07-21 1万+
本文翻译自DataBricks官方博客，主要描述了Apache Spark 2.0中推出的新功能Structured Streaming(结构化流处理)从Kafka中读取消息，实时处理后再写入不同的下游系统的使用示例。 结构化流处理API使得以一种兼具一致性和容错性的方法开发被称为连续应用的端到端流处理应用成为可能。它让开发者不用再去深究流处理本身的细节，而且允许开发者使用类似Spark
Kudu设计要点面面观(下篇)
微信搜：import_bigdata，大数据领域硬核原创作者
07-28 464
目录行事务与数据一致性与Impala、Spark集成Benchmarking当前的主要不足简单调优方法参考：《Kudu设计要点面面观(上篇)》，本文适用知识共享-署名-相...
0595-CDH6.2的新功能
Hadoop_SC的博客
11-08 838
前置文章参考《0585-Cloudera Enterprise 6.2.0发布》和《0589-Cloudera Manager6.2的新功能》 1 Hadoop各版本说明 组件 组件描述 版本 Hadoop 可靠的,可扩展的,分布式的存储和计算平台 v3.0.0 HBase 实时读写访问的可扩展的记录和表的存储 v2.1.0 Hive 具备类SQL接口和ODBC/JDBC驱...
很多网友想看CDH集群中安装Presto版本选择以及踩过的巨坑
duketyson2009的博客
07-25 3378
Presto安装版本选择以及所必须要求的JDK版本踩过的坑 1.很多网友想看如何在CDH集群中安装Presto，今天我给大家带来了在CDH5.14.2中安装Presto的全程记录实操文档 官网文档地址:https://prestodb.github.io/docs/current/release.html 官网GitHub地址:https://github.com/prestodb/pres...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

九师兄

你的鼓励是我做大写作的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值