大数据平台
文章平均质量分 69
聆听金生
人生得意须尽欢,莫使空杯对笑谈!
展开
-
丰富的日期处理工具类
丰富的日期处理工具类原创 2022-09-21 10:39:41 · 189 阅读 · 0 评论 -
OGG安裝部署(oracle=>kafka)
OGG原创 2022-07-25 16:02:37 · 2107 阅读 · 0 评论 -
HttpURLConnection高阶使用之kerberos认证解决方案
1、HttpURLConnection 简介sun.net.www.protocol.http.HttpURLConnection是jdk中默认执行请求时使用。此HttpURLConnection 支持多种权限认证方案,Negotiate(Kerberos)、Basic、Digest认证,本节主要介绍Negotiate(Kerberos)。2、示例代码开启kerberos的服务配置krb5.conf文件import sun.misc.IOUtils;import java.io.IOExce原创 2021-07-14 18:09:37 · 697 阅读 · 1 评论 -
HttpClient请求开启Kerberos的服务
示例方案一import org.apache.http.HttpResponse;import org.apache.http.auth.AuthSchemeProvider;import org.apache.http.auth.AuthScope;import org.apache.http.auth.Credentials;import org.apache.http.client.HttpClient;import org.apache.http.client.config.AuthS原创 2021-03-29 16:18:48 · 1151 阅读 · 0 评论 -
ApacheDS使用详细教程
1、安装apacheDS1.1执行安装脚本1.2 默认安装配置1.3 启动ApacheDS1.4 添加Apache服务端连接1.5 密码处填写 secret1.6 连接成功并打开2、添加自定义分区2.1 打开配置添加自定义分区2.2 重启服务刷新连接3、添加组3、修改配置将m-disabled配置修改为false,修改之后就可以有posixAccount、posixGroup相关属性。切记修改后要断开重新连接3原创 2021-03-09 17:16:23 · 3504 阅读 · 2 评论 -
kafka manager 管理开启kerberos的kafka集群安装教程
1、前言通过之前的博客我们已经把 Zookeeper、kafka、Kerberos 都已经安装验证完毕。接下来我们将继续围绕Kafka生态周围对Kafka Manager 开启kerberos的安装以及验证。2、添加Kafka Manager 认证主体通过命令行添加kafkaManager的认证主体,并导出Key.tab文件[root@henghe-01 /]# kadmin.localAuthenticating as principal root/admin@HADOOP.COM with原创 2021-02-09 14:26:45 · 521 阅读 · 0 评论 -
Kafka开启kerberos安装与验证(2)
1、Kafka 开启ACL1.1 开启acl认证在kafka中server.properties文件中添加如下配置:# 配置kafka中对权限的认证authorizer.class.name=kafka.security.auth.SimpleAclAuthorizer# 配置kafka认证的超级管理员super.users=User:kafka修改整个集群中的配置文件后,滚动重启kafka集群。2、设置Kafka主题Acl权限2.1 查看现有的认证主体列出的认证主体中有我们之前添加的原创 2021-02-08 16:31:08 · 769 阅读 · 0 评论 -
Kafka开启kerberos安装与验证(1)
1、环境准备1、java version “1.8.0_131”2、zookeeper-3.4.123、kafka-2.12-2.3.14、基于本人的另外两篇博客已安装kerberos与Zookeeperkafka的安装建议通过百度一下相关教程很多,本文就不在论述。2、kafkaServer端开启kerberos2.1 添加认证主体[root@henghe-01 data] kadmin.localkadmin.local>addprinc -randkey kafka/henghe原创 2021-02-07 14:30:29 · 2657 阅读 · 10 评论 -
zookeper开启kerberos权限安装与验证(2)
1、zookeeper的安装(单机)1、环境变量配置export ZOOKEEPER_HOME=/data/zookeeper-3.4.12export JAVA_HOME=/data/java/jdk1.8.0_131export PATH=$ZOOKEEPER_HOME/bin:$JAVA_HOME/bin:$PATH2、配置文件# The number of milliseconds of each ticktickTime=2000# The number of ticks原创 2021-02-05 11:38:11 · 782 阅读 · 0 评论 -
zookeper开启kerberos权限安装与验证(1)
一、Kerberos简介Kerberos是一种网络安全认证协议,最早由麻省理工研发,用来保护项目 Athena提供的网络服务器。这个协议以希腊神话中的人物Kerberos(或者Cerberus)命名,他在希腊神话中是Hades的一条凶猛的三头保卫神犬。kerberosInternet是一个非常不安全的地方。在Internet中使用的很多协议并没有提供任何安全保障。一些站点尝试使用防火墙来解决网络安全问题。不幸的是,防火墙假设“坏蛋”都在外边,往往这是非常愚蠢的假设。现实情况是大多数计算机犯罪的毁灭事件原创 2021-02-05 10:39:37 · 454 阅读 · 1 评论 -
普罗米修斯监控
普罗米修斯1、安装安装2、配置监控[Prometheus + Grafana(八)系统监控之Kafka]Prometheus 监控之 kafka3、指令nohup /data/prometheus-2.21.0.linux-amd64/prometheus --config.file=/data/prometheus-2.21.0.linux-amd64/prometheus.yml &kakfa监控配置demolowercaseOutputName: tru原创 2020-11-12 17:42:59 · 918 阅读 · 1 评论 -
Kerberos Hadoop Java代码原理学习(转载)
转载原创 2020-09-11 15:17:08 · 196 阅读 · 0 评论 -
大数据生态圈数据采集组件技术调研
大数据生态圈数据采集组件技术调研文章目录大数据生态圈数据采集组件技术调研一、大数据平台与数据采集二、数据采集组件三、开源大数据处理工具一、大数据平台与数据采集任何完整的大数据平台,一般包括以下的几个过程:数据采集–>数据存储–>数据处理–>数据展现(可视化,报表和监控)其中,数据采集是所有数据系统必不可少的,随着大数据越来越被重视,数据采集的挑战也变的尤为突出。这其中...原创 2020-04-30 16:08:56 · 848 阅读 · 0 评论 -
Kafka-schema-registry的编译安装
一、安装Maven下载Maven安装包wget https://mirrors.aliyun.com/apache/maven/maven-3/3.6.3/binaries/apache-maven-3.6.3-bin.tar.gz解压安装tar -zxvf apache-maven-3.6.3-bin.tar.gz配置环境变量查看是否安装成功二、下载源码包在下载...原创 2020-04-02 18:10:51 · 1231 阅读 · 4 评论 -
Java代码获取JVM与操作系统的信息
示例/* * Licensed to the Apache Software Foundation (ASF) under one or more * contributor license agreements. See the NOTICE file distributed with * this work for additional information regarding co...原创 2019-12-10 13:31:47 · 195 阅读 · 0 评论 -
Presto知识点整理
1、基本概念Presto服务进程Presto集群中一共有两种服务进程,Coordinator与Worker服务进程,Coordinator服务进程主要是:接收查询请求、解析查询语句、生成查询执行计划、任务的调度和worker的管理。Worker服务则执行分解后的查询执行任务:Task。Presto集群的基本通信模型文件结构定义使用2、查询执行模型StatementSt...原创 2019-12-04 09:29:35 · 459 阅读 · 0 评论 -
HUE配置httpfs访问HDFS教程
1、 HUE的配置文件hue.ini默认配置就可以,如果更改需要与其他配置项组合2、 Hadoop的httpfs-site.xml配置1、 httpfs-site.xml的配置如下: <property> <name>httpfs.proxyuser.hue.hosts</name> ...原创 2019-11-28 10:54:04 · 1938 阅读 · 0 评论 -
HUE编译后跨节点安装(非root用户实现、离网环境)
1、HUE的编译参考编译文档2、对RPM包的处理在非root用户下执行指令把rpm包解压到当前路径下的usr目录下rpm2cpio libxslt-1.1.28-5.el7.x86_64.rpm |cpio -idvm 2.修改当前用户的环境变量cd ~vi .bash_profile#把解压文件路经加入到文件中export LD_LIBRARY_PATH=/data...原创 2019-11-20 20:11:44 · 192 阅读 · 0 评论 -
hue的编译与安装
版本centos 7+hue 4.5node.js v10.6.0(参考官网建议,高版本编译存在问题)1、介绍HUE=Hadoop User Experience Hue是一个开源的Apache Hadoop UI系统,由Cloudera Desktop演化而来,最后Cloudera公司将其贡献给Apache基金会的Hadoop社区,它是基于Python Web框架Django实现的...原创 2019-10-30 16:52:52 · 2018 阅读 · 3 评论 -
CDH集群的搭建
CDH集群的搭建原创 2019-07-31 20:57:47 · 431 阅读 · 0 评论 -
Ambari集群的安装
Ambari集群的安装原创 2019-07-31 20:54:28 · 283 阅读 · 0 评论