数据安全新战场,EasyMR为企业筑起“安全防线”

2020年1月,时间跨度长达14年的,微软2.5亿条客户服务和支持记录在网上泄露;

同年4月,微盟发生史上最贵“删库跑路”事件,造成微盟市值一夜之间缩水约24亿港币;

今年7月,网信办依据《数据安全法》等法律法规,对滴滴公司开出人民币80.26亿元的巨额罚款,对互联网企业敲响数据安全警钟。

数据作为互联网的重磅资源,当今重要的“生产要素”及核心竞争力,已经获得了立法上的认可。随着2021年9月1日,中国第一部有关数据安全的法律《数据安全法》正式施行,我国的数据安全制度已经进入了一个新阶段。

不同于网络安全侧重于通过保障计算环境的安全,从而最终保障计算对象的安全。数据安全是以“数据为中心”,主要侧重于数据全生命周期的安全和合规性,以此来保护数据的安全。而企业数据资产作为未来企业发展的基座,在数据采集、存储、处理的一系列流程中,无疑面临着巨大的安全风险挑战。

如何更好地保障数据安全,成为压在每个企业肩头沉甸甸的担子。

一站式大数据安全管理

作为全链路数字化技术与服务提供商,袋鼠云在数据安全方面有过多年的探索和实践。近日,袋鼠云依托其实践,在旗下产品大数据基础平台EasyMR上新增了一站式大数据应用安全防控以及数据权限管控能力。

EasyMR是袋鼠云今年7月最新推出的自研大数据基础平台,该产品集成了服务管控应用ChengYing和内部孵化大数据生态,提供Hadoop、Hive、Spark、Trino、HBase、Kafka等组件的自动化安装、中心化管理与集群监控告警功能,完全兼容Apache开源生态。是一款具备标准的服务部署、服务监控、服务管理等功能的产品。

此次,EasyMR通过集成第三方的安全管控服务Kerberos、Ldap和Ranger分别对大数据集群进行用户安全认证、访问用户管理以及用户数据权限管控。

借助EasyMR的部署和管理能力,以界面化方式部署大数据集群安全管控服务。大数据集群使用者无需关注安全服务部署逻辑以及应用内部工作逻辑,只需要在EasyMR界面查看具体开启进度以及开启结果状态。

通过EasyMR部署大数据集群管控服务,运维人员可以直观地在EasyMR界面对安全管控服务进行管理和运维,包括服务的启停、状态监控等。

EasyMR安全管控能力

相比与其他厂商的大数据集群安全管理,EasyMR可以做到一键部署安全管控服务,一键开启大数据集群组件的安全认证、用户管理以及权限管控服务。下面来具体聊聊EasyMR的安全管控能力

操作便捷

借助EasyMR的管理能力,在部署安全管控服务之后,仅需要在对应的服务页面点击开启安全按钮,即可开启对应服务的安全。如图:

file

例如:需要对Zookeeper开启Kerberos,则只需要跳转到Zookeeper所在服务页面,点击开启按钮,等待开启完成。应用开启安全的内部具体实现流程如下:

file

EasyMR功能丰富,其中连接KDC进行服务票据的生成和服务票据的分发是通过EasyMR的脚本管理能力完成;配置变更和配置下发到各个主机则是凭借EasyMR的配置管理能力,在后台对开启安全服务配置进行新增和修改;而服务重启则依赖EasyMR对服务起停的管理能力,实现对大数据集群的自动重启。

借助EasyMR的配置文件管理能力,在未开启Kerberos状态下,针对大数据集群的配置会单独维护一份当前集群状态使用的配置。当点击开启Kerberos的按钮时,后台会将开启Kerberos的配置新增到当前的配置文件中。

例如 core-site.xml中的hadoop.security.authentication Kerberos。在未开启安全情况下,此配置会默认赋值simple;在开启安全操作触发后,此配置会后台替换为Kerberos,然后配置下发到对应服务所在主机上;配置下发完成后,EasyMR会自动触发服务重启逻辑,加载新的配置,重启完成后会显示安全开启成功。

具体开启步骤:

Part.1 点击开启按钮,确定开启安全

file

Part.2 查看具体开启进度以及开启打印日志

file

Part.3 开启成功

file

Part.4 票据下载使用

file

管理便捷

EasyMR具有大数据集群配置文件管理能力。在开启Hadoop安全后,使用者想利用客户端连接工具使用Hadoop或者Hive,对应的Hadoop集群配置文件hdfs-site.xml、core-site.xml、yarn-site.xml以及用户票据等文件不需要到服务器上去进行获取,直接在对应服务的页面点击下载配置按钮,即可下载对应配置的压缩包,方便快捷。如图:

file

EasyMR在对Kerberos和Ldap应用基本的部署、服务管理、服务监控等基础功能外,增加了对Ldap用户信息的管理,拥有了用户信息查看,用户或用户组信息过滤,用户信息新增、修改用户信息等功能。

使用者在EasyMR页面可以直接通过内嵌LDAP连接或者新增lDAP连接查看Ldap用户信息。以及可以通过用户过滤以及组过滤的方式,查看过滤后的用户信息以及组下的所有用户信息。

file

此外,EasyMR还新增了对Kerberos用户和用户票据的管理功能。在管理了Ldap服务后,使用者在Ldap中新增一个用户,EasyMR内部会在Kerberos中同步创建一个Kerberos用户。对于使用者来说,Kerberos用户信息与Ldap用户属于对应关系。Kerberos用户创建完成后,EasyMR会调用KDC服务对此用户进行票据信息的生成。使用者可以在此界面直接下在票据信息,无需再到服务器上连接KDC服务生成票据以及下载票据。

在EasyMR服务管理界面,用户可以直接通过点击Ranger Admin服务提供的web链接信息跳转到对应的web ui界面,对Ldap用户进行服务权限以及数据权限分配管理。

EasyMR安全能力规划

数据安全随着数字经济的发展以及越来越多企业开始数字化转型变得越来越重要,对于企业来说,有着“牵一发而动全身”的效应。

作为国产自主研发的大数据基础平台,在现有的安全管控能力基础上,EasyMR接下来还将丰富对大数据集群的管理能力,持续优化安全管理的便捷性与通用型。

在当前安全管控能力优化增强的基础上,EasyMR将持续增加KMS、SSL等一站式服务权限管理能力,保障大数据集群的服务安全、用户统一维护、权限统一管理。未来,EasyMR将会持续丰富大数据集群安全防控,以保障用户任务运行在安全高效的集群上。

想了解或咨询更多有关袋鼠云大数据产品、行业解决方案、客户案例的朋友,浏览袋鼠云官网:https://www.dtstack.com/?src=szcsdn

添加【小袋鼠:dtstack001】入qun,免费获取大数据&开源干货

同时,欢迎对大数据开源项目有兴趣的同学加入「袋鼠云开源框架钉钉技术qun」,交流最新开源技术信息,qun号码:30537511,项目地址:https://github.com/DTStack

一、源码特点 1、简单易用: (1)部署实施简单 整个框架是基于.NET Framework2.0开发,绿色不需要任何安装和复杂配置,相对与Hadoop简直可以用轻松来形容,可以让任何一个程序员或者IT短时间内快速搭建起属于自己的并行计算框架。 (2)开发简单 整个框架没有使用特有的脚本语言,普通程序员不需要再去学习相对陌生的语法或者函数,现在使用C#,未来会扩展到JAVA语言,不需要了解复杂的MR算法,只要知道Key集切分规则和原理,并行计算特点和一些注意事项就可以。 (3)与现有系统集成简单 本系统既可以以独立程序方式调度运行,也提供类库方式直接集成到现有的业务系统中,现有系统几乎不需要什么大的改动就可以完成巨量数据或复杂业务处理 2、实用而不晦涩: (1)基于数据库处理 现有的并行框架基本是基于文件系统,对于一个开发团队的首要任务是处理海量的数据库数据,EasyMR不需要对于存储的复杂理解,程序员既可以使用数据库的同步复制来分担数据库读写压力,也可以一次读完,计算机集群计算完成后再同步或一次性写入数据库,程序只要知道完成情况并读取计算结果,同时未来也支持实时返回计算结果。 (2)计算单元逻辑清晰 整个框架的设计是基于企业应用,例如统计报表,数据计算处理,其中统计逻辑和计算处理逻辑剥离出来就是计算单元的处理逻辑,只要简单业务分析可以完成此项工作。 (3)可以编写灵活实用脚本 虽然框架也提供了数据传输功能,但主要负责的是业务逻辑计算部分,在计算过程中可以灵活使用数据库和结果来更好的计算业务逻辑,甚至是原有系统中计算逻辑可以直接经过简单处理就可以变为计算脚本 3、优化并行处理架构: (1)计算单元优化 计算机处理集群里的每台计算机的计算CPU不同而配置不同的并行任务处理数量,也可以根据CPU使用率动态管理计算单元并行处理数量。 (2)采用RTP通信协议 RTP协议是实时传输控制协议简称,在大数据传输,实时传输控制和管理上优势明显,可以最大程度降低通信开销,提高系统稳定性。 二、功能介绍 1、一个并行计算软件框架 基于此框架的软件可以运行在多台计算机组成的计算集群上,并且每个计算机的计算任务也是多线程方式并行进行的,对于处理复杂的业务和巨量数据时非常用于。 2、有着MapReduce血统的任务调度监控中心 EasyMR的作业会由Mgr平台根据Key集切分成若干个数据集,通过RTP通信协议分配到计算Cell上,Mgr同时负责监控Cell上运行情况。 3、任务脚本管理运行管理平台 支持基于C#语言的任务执行脚本,所有脚本会基于TaskBase类,会在Key集之前发送到Cell计算单元,编译并等待执行,整个过程简单方便,尤其适合基于数据库技术的企业大数据处理任务
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值