DataLight 版本更新,新增4A支持(1.2.4 版本)

DataLight 版本更新,新增4A支持(1.2.4 版本)

亲爱的 DataLight 用户们,

我们很高兴地宣布 DataLight 平台最新版本(1.2.4)发布!此次更新引入了系统层面 4A 支持,为后续的 Ranger 集成奠定了基础。同时,支持在部署 KERBEROS、LDAP、SSSD 后,通过修改大数据服务的配置文件,快速集成用户认证服务。

一. 更新日志

  • 新增

    • 新增部署支持 KERBEROS:增强安全性,提供更强的身份验证机制;

    • 新增部署支持 LDAP:与现有目录服务更好地集成;

    • 新增部署支持 SSSD:简化身份管理和验证流程;

    • 新增工具支持 LDAPViewer(PhpLdapAdmin):方便用户管理和浏览 LDAP 数据;

    • 新增 LDAP Grafana Dashboard:提供直观的 LDAP 进程健康状况可视化;

      注:本次更新所涉及到的 KERBEROS LDAP SSSD 服务会因系统依赖差异,在兼容性上有所区别,建议使用 DataLight 平台推荐的操作系统版本,如出现系统版本不一致导致的兼容问题,则可自行修改 plugins/<服务名称>/dlc 包中 rpm 相关依赖项的内容,切换为您所支持的 rpm 包版本。

  • 优化

    • 优化 common-chown.sh 脚本:更精准地控制系统目录的所有者与权限。
    • 解决前端静态资源缓存问题:确保图标正确加载以改善用户体验。

二. 更新内容预览

以下是一些更新内容的预览,帮助您快速直观的了解本次更新的功能;

2.1 新增可部署服务预览

4A服务列表

2.2 LDAP 可视化 UI 预览

LDAPViewer

2.3 LDAP Dashboard 预览

LDAPExporter-Dashboard

三. 什么是 KERBEROS

KERBEROS 是一种网络身份验证协议,旨在通过加密技术提供强大的安全性。它在分布式计算环境中,被广泛用于保护网络服务之间的通信。在众多大数据服务中,常用语保护集群服务之间数据传输的安全性,确保只有经过验证的用户和服务才能访问集群、数据资源。

四. 什么是 LDAP

LDAP,全称为 Lightweight Directory Access Protocol(轻量目录访问协议),用于访问和维护分布式目录信息服务。在 Hadoop 环境中,LDAP 可以用于集中管理用户和组信息,使身份验证流程更加高效。

五. 什么是 SSSD

SSSD,全称为 System Security Services Daemon(系统安全服务守护进程),提供对本地或远程目录服务的访问,以实现身份验证。

SSSD 可以结合 LDAP 使用,提供缓存机制和离线认证功能,提升 Hadoop 集群的用户认证性能和可靠性。

六. 如何增量更新 1.2.4 版本到已有 DataLight 平台

我们提供了详细的升级指南,帮助您顺利将现有的 DataLight 平台更新到最新版本。

6.1 停止 Master/Worker进程

进入主节点,在所有服役的节点上,执行以下命令,以停止并删除所有节点上的 Master、Worker 进程:

# 停止 Master 进程
/opt/datalight/bin/datalight.sh stop master

# 停止 Worker 进程
/opt/datalight/bin/datalight.sh stop worker

# 删除原有的 Master、Worker Jar 包
rm -rf /opt/datalight/app/*.jar

注:Master 进程所在节点称之为主节点,下同

6.2 更新平台进程包

前往百度网盘,下载最新的 DataLight-1.2.4 程序包,名称为:services-master-1.2.4.jar、services-worker-1.2.4.jar,或自行通过源码编译,然后删除 /opt/datalight/app 目录下原有的 master、worker 的 jar 包,并上传最新 jar 包到服务器。

在这里插入图片描述

6.3 更新 plugins 包

前往 百度网盘 下载如下资源包,下载后,覆盖上传至 Master 所在节点的 /opt/datalight/plugins 目录下。

在这里插入图片描述

6.4 更新服务配置

前往 **百度网盘 **或 开源仓库,下载 conf 目录。下载后,覆盖上传至 Master 所在节点的 /opt/datalight 目录下。

在这里插入图片描述

6.5 更新 scripts 公共脚本

前往 **百度网盘 **或 开源仓库,下载 scripts 目录。下载后,覆盖上传至 Master 所在节点的 /opt/datalight 目录下。

在这里插入图片描述

6.6 更新平台进程脚本

前往 **百度网盘 **或 开源仓库,下载 bin 目录。下载后,覆盖上传至 Master 所在节点的 /opt/datalight 目录下。

在这里插入图片描述

6.7 手动分发到所有节点

通过 scp 或其他同步命令,将上述更新内容由主节点推送至其他所有从节点。或直接推送完整安装包。

# 以推送至 node02 节点为例
scp -r /opt/datalight node02:/opt

6.8 重新启动 Master 进程

进入主节点,通过以下命令启动 Master 进程,Master 进程重启后,稍等片刻,Master 将自动拉起所有节点上的 Worker 进程。

/opt/datalight/bin/datalight.sh start master 8001

关注我们


感谢您一直以来对 DataLight 的支持和信任。DataLight 将为您带来更加智能和高效的数据管理体验。期待您的使用和反馈!
——DataLight 团队


关注我们,获取更多最新资讯:

微信公众号:

QQ 交流群:

微信交流:

一起见证数据世界的无限可能!

开源协议

本项目采用 Apache 2.0 开源协议。有关详细内容,请查看 Apache 2.0 LICENSE

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值