kettle连接kerberos认证的CDH

关于kettle连接kerberos认证的CDH问题,以下作为一个备忘

公司使用kettle也有一段时间了,遇到了各种问题,但是通过源码能很快速的解决。唯独在集成 hadoop kerberos上花费了不少心思。搜索了国内外各大搜索引擎和知名的IT问答网站,没能找到答案。抓破脑袋一遍又一遍的看源码,看kerberos的实现机制,都不能很完美kettle集成kerberos,直到高人的一句话,如沐春风~~

kettle 版本 6.0.1-196

思路:修改hadoop的UserGroupInformation 类,改为指定的认证文件。编译之后,通过自定义类加载器覆盖掉已经被加载的UserGroupInformation类。

目前测试解决了,sdc 、hdp 、 星环、华为各大hadoop版本。
  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Kettle(现在被称为Pentaho Data Integration)是一个企业级数据集成工具,它可以用于连接和处理各种数据源。根据引用\[2\]和引用\[3\],Kettle支持跨平台运行,并且可以对接传统数据库、文件、大数据平台、接口、流数据等数据源。它以Java开发,具有无编码、拖拽式开发ETL数据管道的特性。此外,Kettle还支持将机器学习算法应用于ETL数据管道。 关于您的问题,使用Kettle对接开启了Kerberos认证的Kafka是可行的。Kerberos是一种网络认证协议,用于在客户端和服务器之间进行安全的身份验证。Kettle提供了与Kafka集成的功能,可以通过配置Kettle连接器和步骤来实现与Kerberos认证的Kafka的连接。 具体的配置步骤可能会因Kettle版本和Kafka配置而有所不同,但一般来说,您需要在Kettle中配置Kafka连接器,并提供Kafka的连接信息、Kerberos认证信息以及相关的安全配置。这样,Kettle就可以通过Kerberos认证与Kafka进行通信。 请注意,确保您已经正确配置了Kafka的Kerberos认证,并且具有适当的权限来连接和操作Kafka。此外,根据您的具体需求,您可能还需要在Kettle中配置其他步骤来处理Kafka中的数据。 总结起来,使用Kettle对接开启了Kerberos认证的Kafka是可行的。您可以通过配置Kettle连接器和步骤来实现与Kerberos认证的Kafka的连接,并进行数据集成和处理。 #### 引用[.reference_title] - *1* [进阶大数据架构师学习路线](https://blog.csdn.net/xiaoweite1/article/details/124736999)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* *3* [Kettle基于字段去除重复记录操作过程](https://blog.csdn.net/qq_17040587/article/details/129750903)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值