Spark with Kerberos认证异常问题整理

罗列开发过程中遇到的问题,异常提示有unable to obtain password,也有failed to find any kerberos tgt等,与问题相关性不大,因此就不列出异常了。记录当时的排查思路可能更有价值。

keytab未上传,导致读取不到

排查思路

// 在sparkSession构建后,方可使用SparkFiles#get
if (null == SparkFiles.get("xxx.keytab")) throw new RuntimeExceptiion("keytab未上传")

解决方案

  • 要么通过spark-submit --files xxx.keytab上传
  • 要么在代码中通过sparkContext.addFile(“xxx.keytab”)上传

没有配置使用kerberos认证,实质kerberos认证不成功

排查思路

本地调试,断点打在UserGroupInfomation#loginUserFromKeytab:

public synchronized
static void loginUserFromKeytab(String user, String path) throws IOException {
   
// 断点打在下一行
if (!isSecurityEnabled
Spark可以通过使用Hive的元数据来访问Hive表。要在Spark中整合Hive,需要在启动Spark时将Hive的JAR文件添加到Spark的CLASSPATH中。同时,还需要在SparkConf中设置hive.metastore.uris属性,以指定Hive元数据存储的位置。 在进行Kerberos认证时,需要在SparkConf中设置以下属性: - spark.authenticate.enableSasl:启用SASL认证。 - spark.yarn.security.credentials.hive.enabled:启用Hive的Kerberos认证。 - spark.hadoop.security.authentication:设置Hadoop的认证方式为Kerberos。 - spark.hadoop.security.authorization:启用Hadoop的授权功能。 此外,还需要在启动Spark时指定Kerberos的相关配置,包括Kerberos的keytab文件和principal。 例如,可以使用以下代码启动Spark并进行Kerberos认证: ``` val conf = new SparkConf() .setAppName("Spark Hive Kerberos") .setMaster("yarn") .set("spark.authenticate.enableSasl", "true") .set("spark.yarn.security.credentials.hive.enabled", "true") .set("spark.hadoop.security.authentication", "kerberos") .set("spark.hadoop.security.authorization", "true") .set("spark.executor.extraJavaOptions", "-Djava.security.auth.login.config=/path/to/jaas.conf") .set("spark.driver.extraJavaOptions", "-Djava.security.auth.login.config=/path/to/jaas.conf") UserGroupInformation.setConfiguration(conf) UserGroupInformation.loginUserFromKeytab("user@EXAMPLE.COM", "/path/to/user.keytab") val spark = SparkSession.builder() .config(conf) .enableHiveSupport() .getOrCreate() ``` 其中,/path/to/jaas.conf是Kerberos的JAAS配置文件,user@EXAMPLE.COM是Kerberos的principal,/path/to/user.keytab是Kerberos的keytab文件。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值