开启 Kerberos 安全的大数据环境中，Yarn Container 启动失败导致作业失败

已于 2022-09-16 14:18:39 修改
阅读量1.7k 收藏 3
点赞数 1
文章标签： 程序人生
于 2022-09-16 14:12:32 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/MichaelLi916/article/details/126889546
版权

大数据问题排查系列 - 开启 Kerberos 安全的大数据环境中，Yarn Container 启动失败导致 spark/hive 作业失败

前言

大家好，我是明哥！

最近在若干个不同客户现场，都遇到了 大数据集群中开启 Kerberos 后，spark/hive 作业提交到YARN 后，因 YARN Container 启动失败作业无法执行的情况，在此总结下背后的知识点，跟大家分享下，希望大家有所收获。

1 问题1问题现象

某客户现场，大数据集群中开启了 kerberos 安全认证，提交 hive on mr/hive on spark 任务给 yarn 后执行失败，查看 yarn web ui 可见报错信息：




                

                
                
        

        

    




        

            

                    
                      最低0.47元/天 解锁文章
                        
                    
            

        

    

      

        

            

              
                
                  明哥的IT随笔
                
              
            

            

                关注
              
            

        

        

          
    
            
  • 
              
                
                
                
                
                    1
                
              
              
    点赞
    
            
    • 
            
  • 
              
                
                
                
              
              
    踩
    
            
    • 
            
  • 
              
                
                
                
                
                    3
                
              
              
    
                
    
                  
                    收藏
                  
                
    
              
    
              
    
                
    
                  觉得还不错?
                  
                    一键收藏
                  
                 
                
    
              
    
            
    • 
                
  • 
                  
                    打赏
                    
                  
                  
    打赏
    
                
    • 
          
  • 
            
    
              
              
            
    
              
              
              
                    0
              
            
            
    评论
    
          
    • 
          
  • 
          
    • 
          
  • 
            
              
            
              
    
            
              
                
            
    
          
    • 
        

      

      










                



	

		

			

				
					
Flink SQL 在kerberos on yarn环境下提交

				
			

			

				

					leiline的博客
				

				

					09-25
					
					1815
					
				

			

		

		

			
				
Flink SQL 作业在kerberos on yarn环境下提交

			
		

	



                

              
                



	

		

			

				
					
解决配置完kerberos后，HDFS、YARN的web页面无法访问

				
			

			

				

					不二先生的笔记
				

				

					09-23
					
					5086
					
				

			

		

		

			
				
HDFSWebUI浏览器认证

我们设置CDH支持kerberos后会出现下图所示的情况：





这是因为权限问题，按照下面的方式可完美解决

1.浏览器配置（Firefox）

1.打开火狐浏览器，在地址栏输入：about:config，进入设置页面。



2.搜索“network.negotiate-auth.trusted-uris”，修改值为自己的服务器主机名。





3搜索“network.auth.use-sspi”，双击将值变为false。





2安装kfw

1安装提...

			
		

	



                


  
              

                


	

		

			

				
					
CDH5.15.1开启kerberos后YARN nodemanager无法启动问题

				
			

			

				

					阿晨的博客
				

				

					05-11
					
					736
					
				

			

		

		

			
				
CDH5.15.1开启kerberos后Nodemanager死活起不来。报错信息如下


2020-05-11 15:52:49,488 INFO org.apache.hadoop.service.AbstractService: Service NodeManager failed in state INITED; cause: org.apache.hadoop.yarn.exceptions.YarnRuntimeException: Failed to initialize container 

			
		

	





	

		

			

				
					
kerberos体系下的应用(yarn,spark on yarn)

				
			

			

				

					hellozhxy的博客
				

				

					11-28
					
					2986
					
				

			

		

		

			
				
kerberos 介绍


阅读本文之前建议先预读下面这篇博客kerberos认证原理---讲的非常细致，易懂


Kerberos实际上一个基于Ticket的认证方式。Client想要获取Server端的资源，先得通过Server的认证；而认证的先决条件是Client向Server提供从KDC获得的一个有Server的Master Key进行加密的Session Ticket（Session K...

			
		

	



		

			
		



	

		

			

				
					
yarn配置kerberos

				
			

			

				

					qq_25617289的博客
				

				

					08-03
					
					563
					
				

			

		

		

			
				
1：在hadoop01机器上添加其他节点的3个认证

t添加对hdfs的认证:

kadmin.local -q "addprinc -randkey yarn/hadoop01@HADOOP.COM"

kadmin.local -q "addprinc -randkey yarn/hadoop02@HADOOP.COM"

kadmin.local -q "addprinc -randk...

			
		

	





	

		

			

				
					
小白快速掌握Hadoop集成Kerberos安全技术频教程

				
			

			

				

					11-04
				

			

		

		

			
				
从零学习Kerberos安全认证机制，并和Hadoop、YARN、HIVE进行集成，通过知识点 + 案例教学法帮助小白快速掌握Hadoop集成Kerberos安全技术。  课程亮点 1，专项攻破Hadoop安全配置。 2，生动形象，化繁为简，讲解通俗...

			
		

	





	

		

			

				
					
大数据平台安全培训.pptx

				
			

			

				

					03-04
				

			

		

		

			
				
本培训文档主要介绍大数据平台安全管控措施，重点介绍Kerberos安全认证框架和Sentry安全授权组件

			
		

	





	

		

			

				
					
Kerberos网络安全大作业.zip

				
			

			

				

					12-08
				

			

		

		

			
				
FJNU-17物联课程资源，欢迎各位同学下载，只是基础实现还不够专业，如果有不足之处还请各位多多包涵指正，谢谢理解。

			
		

	





	

		

			

				
					
大数据:基于Docker离线部署2.7.4版本ambari及启用kerberos安全认证(物理机同理)

				
			

			

				

					03-17
				

			

		

		

			
				
1.离线部署ambari 2.7.4及HDP大数据...3.开启kerberos权限认证服务，并提供相关Demo 4.支持HDFS、Spark、Yarn、MapReduce、Hive、Pig、 HBase、Zookeeper、Sqoop和Hcatalog等 5.很详细的文档，包括各种可能出现的Bug

			
		

	





	

		

			

				
					
kerberos安全认证

				
			

			

				

					12-29
				

			

		

		

			
				
kerberos安全认证demo，内含spark、oozie、mr、kafka、hive、hdfs、hbase等认证代码，并有对应开发文档等信息。。。

			
		

	





	

		

			

				
					
yarn上配置kerberos（十二）

				
			

			

				

					forever19870418的博客
				

				

					04-06
					
					3546
					
				

			

		

		

			
				
一、创建认证规则
二、创建Keytab文件
三、部署Kerberos Keytab文件
四、修改YARN配置文件，包括
1）yarn-site.xml
2）mapred-site.xml
3）container-executor.cfg
五、启动服务
六、测试


实施步骤
1、创建认证规则
[root@cdh1 training]# kadmin.local -q "a

			
		

	





	

		

			

				
					
[ YARN 3.1.x ] 开启Kerberos配置&使用

				
			

			

				

					张伯毅的专栏
				

				

					03-28
					
					2678
					
				

			

		

		

			
				
.一 .前言1.1. 环境说明1.2. 服务规划1.3. 安装Kerberos环境1.4. 安装YARN环境二 .安装YARN2.1. 添加用户2.2. 配置YARN相关的Kerberos账户2.2.1. 创建keytab存放目录2.2.2. 配置master01上面运行的服务对应的Kerberos账户2.2.3. 权限设置2.2.4. 编译源码构建Linux-Container-executor2.2.5. 设置 hadoop 需要使用的各个目录的权限2.3.  配置hadoop的 lib/native(

			
		

	





	

		

			

				
					
Ambari2.7.3-HDP3.0.1-Yarn开启CPU调度和隔离

				
			

			

				

					TT-Learning
				

				

					01-01
					
					2253
					
				

			

		

		

			
				
文章目录问题：开启：解决：
问题：
安装好Yarn组件，Yarn组件对CPU的调度和隔离（CPU Scheduling and Isolation）默认是关闭的。
Ambari Web UI -->  YARN --> CONFIGS --> SETTINGS --> CPU

开启：

打开CPU调度和隔离按钮

重启相关组件
在启动Yarn组件时，NodeManager...

			
		

	





	

		

			

				
					
Hive/Spark/Yarn: User Not Found 错误和 Kerberos / AD / OpenLDAP 之间的关系与解释

					
最新发布

				
			

			

				

					Laurence 的技术博客
				

				

					07-31
					
					1374
					
				

			

		

		

			
				
有时候，当你向Spark或Hive提交作业时，可能会遇到User not found错误,类似的问题大多发生在启动了Kerberos的Hadoop集群上，或者集群集成了Windows AD或OpenLDAP后。本文，我们把这个问题梳理清楚并给出解决方法。

			
		

	





	

		

			

				
					
Kerberos环境测试hive，报错：main : run as user is test main : requested yarn user is tes User test not found

				
			

			

				

					周源的专栏
				

				

					07-16
					
					6919
					
				

			

		

		

			
				
报错日志：log4j:WARN No such property [maxFileSize] in org.apache.log4j.DailyRollingFileAppender.Logging initialized using configuration in file:/etc/hive/2.6.1.0-129/0/hive-log4j.propertiesException in th...

			
		

	





	

		

			

				
					
hadoop使用LinuxContainerExecutor后使用root用户提交任务报错--源码修改

				
			

			

				

					欲问君有几多愁的博客
				

				

					09-03
					
					822
					
				

			

		

		

			
				
问题描述
在hadoop3.2.1的版本中，配置cgroup对yarn的cpu资源进行隔离之后，发现，使用root用户在yarn上提交任务时，无法提交成功，并会报错：
Runing as root is not allowed!

最后将这些错误在源码中搜索发现以下内容：
/**
 * Is the user a real user account?
 * Checks:
 *   1. Not root
 *   2. UID is above the minimum configured.
 *   3

			
		

	





	

		

			

				
					
container偶尔宕掉问题的解决记录

				
			

			

				

					热气球
				

				

					09-14
					
					4345
					
				

			

		

		

			
				
（便于搜索）rpc error: code = 2 desc = containerd: container not found
文章目录问题出现定位问题问题困扰收集信息问题进展治标不治本困惑柳暗花明
问题出现
同事说访问nginx服务时出现502错误，但是由于我是第一天入职，对于公司架构不了解，所以根据现象，去查看nginx服务日志
日志内容如下：
2020/09/07 14:04:02 [error] 2334#0: *16623399 connect() failed (111: Connection

			
		

	





	

		

			

				
					
解决jupyter “Running as root is not recommended.xxx”错误 && jupyter配置方法

					
热门推荐

				
			

			

				

					Donald Su
				

				

					07-17
					
					1万+
					
				

			

		

		

			
				
运行jupyter notebook出现“Running as root is not recommended. Use --allow-root to bypass”错误
可以通过如下方法解决该问题：
产生jupyter配置文件
使用 jupyter notebook --generate-config 命令生成jupyter配置文件，将会提示当前生成的配置文件的存放路径，一般为 ~/.jupy...

			
		

	





	

		

			

				
					
为CDH 5集群添加Kerberos支持

				
			

			

				

					Make progress step by step everyday.....
				

				

					05-26
					
					7426
					
				

			

		

		

			
				
GitHub      Kerberos


参考链接： 
+ Configuring Authentication in Clouera Manager 
+ Understanding Kerberos 
+ Instlling Kerberos 
+ Troubleshooting Authentication Issues 
+ Configuring YARN for L

			
		

	





	

		

			

				
					
sparkstreaming读写kerberos kafka（yarn client、yarn cluster）

				
			

			

				

					03-16
				

			

		

		

			
				
因此，需要在YARN集群中配置Kerberos认证，并且需要将Kafka的Kerberos认证配置文件放置在YARN集群中。然后，可以使用以下命令提交应用程序：  ``` spark-submit --class <main-class> --master yarn --deploy-mode ...

			
		

	



              



  
“相关推荐”对你有帮助么？

  

      
    
          
  • 
              
    
                  
                  
              
    
              
    非常没帮助
    
          
    • 
          
  • 
              
    
                  
                  
              
    
              
    没帮助
    
          
    • 
          
  • 
              
    
                  
                  
              
    
              
    一般
    
          
    • 
          
  • 
              
    
                  
                  
              
    
              
    有帮助
    
          
    • 
          
  • 
              
    
                  
                  
              
    
              
    非常有帮助
    
          
    • 
      

      

      

          
          提交
      

      

  




          




        



    





    



      

      

        
      

      





	

		评论	
	

	
	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  





	
打赏作者

	

		

		
			
		
		

		

			
明哥的IT随笔

			
你的鼓励将是我创作的最大动力

		

	

	

			

	

	

    ¥1
    ¥2
    ¥4
    ¥6
    ¥10
    ¥20
	

	

		

			

				

					扫码支付：¥1
				

				

					

					
					获取中
					

				

				

					
					
					扫码支付
				

			

		

		

			
您的余额不足，请更换扫码支付或充值

			
打赏作者

		

	



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值