- 博客(7)
- 资源 (5)
- 收藏
- 关注
原创 【ETL工具】StreamSets 定时调度
Streamsets是一款大数据实时采集和ETL工具,可以实现不写一行代码完成数据的采集和流转。通过拖拽式的可视化界面,实现数据管道(Pipelines)的设计和定时任务调度,Kettle缺点是通过定时运行,实时性相对较差。需求:定时的开启一个管道流,此处希望也可以定时的关闭。目前找到的方式就是下面的这个组件,以下的案例也是基于此组件展开。
2020-07-25 12:23:34 2878 10
原创 【ETL工具】StreamSets简介和入门案例
Streamsets是一款大数据实时采集和ETL工具,可以实现不写一行代码完成数据的采集和流转。通过拖拽式的可视化界面,实现数据管道(Pipelines)的设计和定时任务调度。最大的特点有:可视化界面操作,不写代码完成数据的采集和流转内置监控,可是实时查看数据流传输的基本信息和数据的质量强大的整合力,对现有常用组件全力支持,包括50种数据源、44种数据操作、46种目的地。对于Streamsets来说,最重要的概念就是数据源(Origins)、操作(Processors)、目的地(Destinati
2020-07-24 18:49:27 4508 5
原创 【Linux】出现 -BASH-4.2# 问题的解决方法
问题:误删/root 下的文件,LINUX 出现 -BASH-4.2# 问题的解决方法1.root 用户下,在根目录创建 /root 目录 mkdir /root2. 复制 .bashrc 以及 .bash_profile俩个文件到root目录下 cp /etc/skel/.bashrc /root cp /etc/skel/.bash_profile /root3.关闭Xshell ,重新打开啊就好了......
2020-07-15 09:59:04 4645 2
原创 Ranger 和 Ranger Audit 审计功能模块介绍
目录一、Ranger 介绍1、Ranger概念2、权限模型二、Ranger Aduit审计功能模块详解1、Ambari 中 Ranger config2、Ranger Audit 功能模块介绍一、Ranger 介绍1、Ranger概念Ranger 使用了一种基于属性的方法定义和强制实施安全策略。当与 Apache Hadoop 的数据治理解决方案和元数据仓储组件Apache Atlas一起使用时,它可以定义一种基于标签的安全服务,通过使用标签对文件和数据资产进行分类,并
2020-07-11 16:02:16 4981 18
原创 HDP中 Ranger 整合Kerberos进行细粒度的权限访问控制
一、Ranger 权限问题1、 Ranger 是什么?ranger则是针对组件内的权限 ,比如HDFS的读写执行,Hive和Hbase的读写更新,yarn的队列资源使用权,目前ranger只支持 hdfs,hive,hbase,kafka,yarn等组件,针对于组和用户对资源的访问权限进行细粒度的控制。2、遇到的问题安装 Ambari 时安装了 Ranger 但是没有配置权限,所以出现了下面的问题:Error:Error while comiling statement: FAIL.
2020-07-07 22:40:20 3654 3
原创 【ETL工具】Kettle 中添加 Kerberos 认证
Kerberos客户端支持两种认证方式,一是使用 principal + Password,二是使用 principal + keytab,前者适合用户进行交互式应用,例如hadoop fs -ls这种,后者适合服务,例如yarn的rm、nm等对于 HDFS的访问认证,我们使用了 principal + keytab
2020-07-05 19:53:16 2905
原创 Ranger 简介与安装
目录一、Ranger是什么1、Ranger介绍2、Ranger模块二、基于Ambari安装Ranger Apache Ranger目前是Apache下的顶级项目,目的是通过制定策略(policies)实现对Hadoop组件的集中式安全管理。用户可以通过Ranager实现对集群中数据的安全访问。 Ranger由三个模块组成:Ranger portal: 提供给用户进行安全管理的界面Ranger plugin: 嵌入在需要安全控制的组件进程中,提供两种功能:
2020-07-04 09:55:26 4185 1
Java最新大厂面试宝典
2023-10-11
程序猿面试简历模板精选
2023-10-10
dbeaver-ce-6.3.1-win32.win32.x86_64.zip
2020-02-14
SublimeText3_Build3083_x64_XiaZaiBa.zip
2019-08-15
eclipse-jee-2018-09-win32-x86-64.zip
2019-08-12
npp.6.9.2.Installer.zip
2019-08-12
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人