【求解惑】org.apache.shuffle.FetchFailedException:Failed to connect to xxx:41972

最新推荐文章于 2022-03-31 16:45:34 发布
最新推荐文章于 2022-03-31 16:45:34 发布
阅读量1.1k 收藏
点赞数 1
分类专栏： spark 文章标签： apache hadoop hdfs
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43115740/article/details/121783431
版权 
报错的原因是因为某一天集群切换ups电源时，出现了断电。重启集群后写parquet文件就会出现不成功。
  1. 空文件和少量文件写parquet没毛病，都能写成功
  2. 大量数据80%写不成功，20%能写成功
  3. hdfs 还有1/3的空间，机器的本地磁盘也有30-40%的空闲。集群是配置是64核256G48T
  4. 报错的几台datanode 单独看没有问题
  5. 出错的代码都是上线运行了几个月，而且不是单个代码报错，涉及写文件的都报错，随便一个select 写都报错

在这里插入图片描述
在这里插入图片描述
以上两张图片出来运行时间不一样，资源、位置、源数据、代码都一模一样
救救孩子吧，孩子看吐了也没找出问题

卖菜的老婆婆 °
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
Spark Shuffle FetchFailedException
精益求精
09-13 2939
spark大规模数据处理中，有个比较常见的错误： org.apache.spark.shuffle.MetadataFetchFailedException: Missing an output location for shuffle 0 ERROR shuffle.RetryingBlockFetcher: Failed to fetch block shuffle_0_1300_10...
org.apache.spark.shuffle.FetchFailedException:Failed to connect to异常
煉心的博客
08-01 1万+
最近在做Spark的性能优化，测试使用不同CPU核数和内存对计算性能的影响，由于是在测试集群进行测试的，硬件配置比生产上面的要少和低，遇到了不少的问题，其中一个值得说一下的就是org.apache.spark.shuffle.FetchFailedException:Failed to connect to /xxx:43301 1. 运行环境 1.1 硬件 3台服务器，分别
shuffle FetchFailedException原因
lhj_sjtu的博客
04-08 1464
参考学习 https://blog.csdn.net/gangchengzhong/article/details/76474129 和 https://my.oschina.net/u/2499632/blog/702814 及 https://blog.csdn.net/lsshlsw/article/details/49155087 若出现各种timeout，executor lost ,t...
FlinkSQL报错：org.apache.flink.util.FlinkException: Could not upload job files.
yuchendejiyi的博客
03-31 6678
1、首先我使用的Flink版本 Flink1.12.0 2、出现错误场景 在进行Flink和Hive（3.1.2）版本进行集成，通过sql-client.sh embedded来执行（select * from emp）语句时出现此错误信息 ---> 报错信息 ---> 分析 org.apache.flink.util.FlinkException: Could not upload job files 这个错误较为笼统，根据这个定位会很模糊，值得注意的是下面的报错： 20
Spark Shuffle FetchFailedException解决方案
wuzhilon88的专栏
03-17 6163
在大规模数据处理中，这是个比较常见的错误。 报错提示 SparkSQL shuffle操作带来的报错 org.apache.spark.shuffle.MetadataFetchFailedException: Missing an output location for shuffle 0   org.apache.spark.shuffle.FetchFailed
java-exercise.rar_site:www.pudn.com
09-19
Java编程语言是面向对象的、跨平台的编程语言，它由Sun Microsystems（现已被Oracle公司收购）于...在www.pudn.com这样的网站上，还可以找到更多的学习资源和交流社区，为学习者提供更多的学习途径和答疑解惑的机会。
jsp2.rar_https://www.2jsp
09-19
【标题】"jsp2.rar" 是一个压缩文件，其链接为 "https://www.2jsp"，这...同时，与作者和其他学习者的交流也可能提供宝贵的答疑解惑的机会。记得在使用过程中，结合其他教程、书籍和在线资源，以便更全面地学习和提高。
指导：Node.js指导计划倡议
02-04
3. **答疑解惑**：解答学生在学习过程中遇到的问题和困惑。 4. **职业规划**：帮助学员了解Node.js开发者的职业前景和市场需求。 **总结** Node.js指导计划倡议是一项旨在推广和提升开发者Node.js技能的活动，通过...
node.js 大作业.zip
最新发布
08-23
项目工程资源经过严格测试可直接运行成功且功能正常的情况才上传，可轻松copy复刻，拿到资料包后可轻松复现出一样的项目，本人系统开发经验充足（全栈开发），有任何使用问题欢迎随时与我联系，我会及时为您解惑，...
毕业设计酒店管理系统vue+node.js.zip
08-23
项目工程资源经过严格测试可直接运行成功且功能正常的情况才上传，可轻松copy复刻，拿到资料包后可轻松复现出一样的项目，本人系统开发经验充足（全栈开发），有任何使用问题欢迎随时与我联系，我会及时为您解惑，...
apache-doris-flink-connector-1.13_2.12-1.0.3
05-05
Flink Doris Connector 源码（apache-doris-flink-connector-1.13_2.12-1.0.3-incubating-src.tar.gz） Flink Doris Connector Version：1.0.3 Flink Version：1.13 Scala Version：2.12 Apache Doris是一个现代MPP分析数据库产品。它可以提供亚秒级查询和高效的实时数据分析。通过它的分布式架构，高达10PB级的数据集将得到很好的支持，易于操作。 Apache Doris可以满足各种数据分析需求，包括历史数据报告、实时数据分析、交互式数据分析和探索性数据分析。让您的数据分析更容易!
apache-doris-flink-connector-1.14_2.12-1.0.3
05-05
Flink Doris Connector（apache-doris-flink-connector-1.14_2.12-1.0.3-incubating-src.tar.gz） Flink Doris Connector Version：1.0.3 Flink Version：1.14 Scala Version：2.12 Apache Doris是一个现代MPP分析数据库产品。它可以提供亚秒级查询和高效的实时数据分析。通过它的分布式架构，高达10PB级的数据集将得到很好的支持，易于操作。 Apache Doris可以满足各种数据分析需求，包括历史数据报告、实时数据分析、交互式数据分析和探索性数据分析。让您的数据分析更容易!
apache-doris-flink-connector-1.11_2.12-1.0.3
05-05
Flink Doris Connector（apache-doris-flink-connector-1.11_2.12-1.0.3-incubating-src.tar.gz） Flink Doris Connector Version：1.0.3 Flink Version：1.11 Scala Version：2.12 Apache Doris是一个现代MPP分析数据库产品。它可以提供亚秒级查询和高效的实时数据分析。通过它的分布式架构，高达10PB级的数据集将得到很好的支持，易于操作。 Apache Doris可以满足各种数据分析需求，包括历史数据报告、实时数据分析、交互式数据分析和探索性数据分析。让您的数据分析更容易!
运行flink程序所出现的异常及其解决方案
一路走下去的博客
10-29 2万+
下面的我在测试中遇到的几个问题及解决方案。 1. The assigned slot container_e08_1539148828017_15937_01_003564_0 was removed. org.apache.flink.util.FlinkException: The assigned slot container_e08_1539148828017_15937_01_0035...
Service Unavailable 问题
杨义贤心灵驿站
03-28 1502
有几种可能： 一、 如果出现“Service Unavailable”的提示，刷新几下又可以访问。 出现这种情况是由于您的网站超过了iis限制造成的 由于2003的操作系统在提示IIS过多时并非像2000系统提示“链接人数过多”，而是提示"Service Unavailable",出现这种情况是由于网站超过了系统资源限制造成的，主要是程序占用资源太多。 比如同样是100人在线的论坛，雷傲论
flink任务常见报错及解决办法
热门推荐
yiweiyi329的博客
08-06 3万+
1、flink任务无法从checkpoint启动 场景一、flink任务运行过程中出现异常时（如checkpoint失败次数超过配置阈值），自动重启出现算子异常，无法恢复正常运行。 场景二、手动下线任务，选择上一次的checkpoint启动时，出现算子异常，无法启动。 报错如下： java.lang.Exception: Exception while creating StreamOperatorStateContext. at org.apache.flink.streaming.api.
Flink异常问题提总结
梦想成真那天
04-29 1万+
Flink在执行过程中突然异常退出 Sink: time-kafka(1/1) switched to SCHEDULED 04/29/2019 10:10:20 Job execution switched to status FAILING. org.apache.flink.runtime.jobmanager.scheduler.NoResourceAvailableExcepti...
Flink cdc +doris生产遇到的问题汇总-持续更新
qq_31866793的博客
02-14 1万+
版本： Flink版本 1.13 Flink cdc版本 2.1.1 场景说明： 使用flink cdc stream api 读取mysql整库数据直接写入doris 大概100G数据量，大概几十个表，大表小表，字段多，字段少，单个字段类型复杂等等情况都包含了。 出现情况： 任务运行一段时间之后挂掉，出现问题： 2022-02-11 18:33:59,461 INFO com.ververica.cdc.connectors.mysql.source.enumerator.My.
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值