我们在构建项目的时候日志等级设置是很有必要,日志太多太乱会直接影响我们的判读,SparkStreaming由于是流式处理日志会更加的多。
1、屏蔽系统日志
//请注意是apache.log4j不是org.slf4j
import org.apache.log4j.{Level, Logger}
// 屏蔽不必要的日志 ,在终端上显示需要的日志
Logger.getLogger("org.apache.spark").setLevel(Level.OFF)
Logger.getLogger("org.eclipse.jetty.server").setLevel(Level.OFF)
Logger.getLogger("org.apache.kafka.clients.consumer").setLevel(Level.OFF)
2、屏蔽 sparkContext 的日志
sparkContext.setLogLevel("WARN")