spark代码中添加logger_如何在Spark中关闭INFO日志记录?

该博客主要讨论了在Spark环境中如何关闭INFO级别的日志记录。作者在AWS EC2上安装了Spark,并尝试通过修改log4j.properties文件来降低日志级别,但仍然无法阻止INFO级别的日志输出。内容包括尝试的log4j配置,Spark启动命令以及spark-env.sh的配置,展示了作者在寻找解决方案过程中遇到的问题。
摘要由CSDN通过智能技术生成

我使用AWS EC2指南安装了Spark,我可以使用bin / pyspark脚本启动程序,以获得spark提示,也可以成功执行Quick Start quide.

但是,我不能为我的生活弄清楚如何在每个命令之后停止所有详细的INFO记录.

我已经在我的log4j.properties文件中的以下代码(注释掉,设置为OFF)中尝试了几乎所有可能的场景,我在启动应用程序的conf文件夹中以及每个节点上都没有做任何事情.执行每个语句后,我仍然会打印日志记录INFO语句.

我对这应该如何工作非常困惑.

#Set everything to be logged to the console log4j.rootCategory=INFO, console

log4j.appender.console=org.apache.log4j.ConsoleAppender

log4j.appender.console.target=System.err

log4j.appender.console.layout=org.apache.log4j.PatternLayout

log4j.appender.console.layout.ConversionPattern=%d{yy/MM/dd HH:mm:ss} %p %c{1}: %m%n

# Settings to quiet third party logs that are too verbose

log4j.logger.org.eclipse.jetty=WARN

log4j.logger.org.apache.spark.repl.SparkIMain$exprTyper=INFO

log4j.logger.org.apache.spark.repl.SparkILoop$SparkILoopInterpreter=INFO

当我使用SPARK_PRINT_L

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值