大数据
DaDaeleven
这个作者很懒,什么都没留下…
展开
-
linux ntp 时间同步
https://www.cnblogs.com/quchunhui/p/7658853.html原创 2021-09-30 17:43:59 · 168 阅读 · 0 评论 -
2021-09-08Cloudera Manager集群报警,堆转储目录/tmp 或日志目录/var/log 可用空间小于 5.0 吉字节
解决办法:1、先找到报错的主机输入查看磁盘存储的命令 df -h如图:可以看出centos-root 已使用63%,/dev/sdb 20G未使用可使用 du -h -d1 去制定目录查看文件夹大小,删除无用数据释放空间解决CDH空间不足办法:将hive、spark、yarn等服务下搜索、var、tmp、 在前面添加/home/ckt/work_1,将其产生的数据存放到空闲的盘下详细请参考:https://blog.csdn.net/xueyao0201/article/details/795转载 2021-09-08 15:23:24 · 471 阅读 · 0 评论 -
HUE通过Sentry进行权限管理案例
--测试用例--要求:通过HUE创建一个数据库,数据库中有两张表,用于1对test1表拥有查询权限,用户2对test1表有insert权限、对test2有select、insert权限--开始:create database xianke;create table xianke.test1(name string,age int);create table xianke.test2(name string,age int);--创建role,并将role添加给某一个用户create role原创 2021-09-01 14:59:06 · 327 阅读 · 0 评论 -
2021-08-30
集群分发脚本部署:yum install -y rsync在home目录下创建xsync#!/bin/bash#1. 判断参数个数if [ $# -lt 1 ]then echo Not Enough Arguement! exit;fi#2. 遍历集群所有机器for host in cdh01 cdh02 cdh03do echo ==================== $host ==================== #3. 遍历所有目录,挨个发送 fo原创 2021-08-30 08:48:24 · 82 阅读 · 0 评论 -
2021-08-26
kettle运行 sh kitchen.sh 报错:no libwebkitgtk-1.0 detected解决:wget ftp://ftp.pbone.net/mirror/ftp5.gwdg.de/pub/opensuse/repositories/home:/matthewdva:/build:/EPEL:/el7/RHEL_7/x86_64/webkitgtk-2.4.9-1.el7.x86_64.rpmyum install webkitgtk-2.4.9-1.el7.x86_64.rpm原创 2021-08-26 17:20:44 · 182 阅读 · 0 评论 -
2021-08-26
kafka集成kerberos -cdh6.3.21.Kafka配置修改1)设置kafka安全身份验证在kafka的配置中搜索 kerberos.auth.enable 并将其勾选2)设置kafka认证方式在kafka设置中搜索security.inter.broker.protoco 修改为 SASL_PLAINTEXT3)配置kafka.properties在kafka的配置页面中 搜索 kafka.properties 的 kafka broker高级配置代码段(安全阀) 其值添加如下内原创 2021-08-26 16:04:34 · 147 阅读 · 0 评论 -
2021-08-26
canal获取mysql增量数据经过kerberos认证到kafka步骤:1.mysql需要开启binlog日志# 修改mysql配置文件vim /etc/my.cnf-----------------------[mysqld] #开启binloglog-bin=mysql-bin #日志记录方式,建议使用ROW模式binlog-format=ROW #给当前mysql一个server id,之后的CDC工具里配置的不能跟这个重复server_id=1 开启binlog之后重原创 2021-08-26 15:47:48 · 95 阅读 · 0 评论 -
Flume 安装部署
Flume的安装非常简单上传安装包到数据源所在节点上然后解压 tar -zxvf apache-flume-1.8.0-bin.tar.gz然后进入flume的目录,修改conf下的flume-env.sh,在里面配置JAVA_HOME...原创 2019-09-03 15:11:21 · 104 阅读 · 0 评论 -
Zookeeper开源的分布式协调服务框架
Zookeeper的概述 zookeeper 是一个开源的分布式协调服务框架,主要用来解决分布式集群中的一致性问题和数据管理问题.Zookeeper的特点zookeeper本质上是一个分布式文件系统,适合存放小文件,可以理解为一个数据库.zookeeper中存储的其实就是一个又一个Znode,Znode是Zookeeper中的节点。正式因为Znode的特性,所有Zookeeper可以对...原创 2019-08-21 20:09:05 · 586 阅读 · 1 评论