CDH学习
悠然大月季
数据开发
展开
-
Maven Artifacts for CDH 6.2.x Releases
一、我们使用maven时,一般会将中央仓库配置为阿里云的镜像,但是项目中用到的CDH相关的jar包并不存在于该中央仓库中。CDH提供了中央仓库,官方文档参考:https://docs.cloudera.com/documentation/enterprise/6/release-notes/topics/rg_cdh_62_maven_artifacts.html方法一:手动添加(推荐)repos库下载手动添加参考链接:https://blog.csdn.net/weixin_38504735/arti原创 2022-06-29 13:55:23 · 482 阅读 · 0 评论 -
Hbase 1.3.x api操作
hbaseApiOperation.java 文件在 src目录 main-》java-》 com.atguigu目录下项目树:原创 2022-06-26 22:46:18 · 3238 阅读 · 0 评论 -
CDH之HBase2字符编码问题以及中文显示
CDH之HBase2字符编码问题以及中文显示,在scan命令后添加,{FORMATTER=>‘toString’} 即可ex:原创 2022-06-16 09:57:33 · 691 阅读 · 0 评论 -
java.io.FileNotFoundException: HADOOP_HOME and hadoop.home.dir are unset.
其原因是需要在windows本地搭建Hadoop环境,下载winutils文件,并将hadoop-2.8.4包内的bin文件替换,将下载文件中hadoop.dll放到C:\Windows\System32下我的是hadoop3.0.0,下载Hadoop3.0:下载链接自己选择一个盘,我这里是 D:\software新建系统变量(1)修改hadoop-env.cmd,改为自己本机的设置jdk目录4、下载winutils的windows版本:下载地址:https://github.com/stevelo原创 2022-06-10 11:06:49 · 7205 阅读 · 0 评论 -
Maven手动添加jar包(含CDH jar包)
CDH 手动添加jar包原创 2022-06-07 18:40:17 · 486 阅读 · 1 评论 -
CDH之oracle.jdbc.driver.T4CConnection.getSchema()Ljava/lang/String;报错
状况: 使用oracle集成Hive在导入Oracle jdbc包的时候,将ojdbc6包升级为jdbc8的包即可网上查阅资料,说是ojdbc6没有T4CConnection.getSchema()此方法,改用ojdbc8成功下载链接下载 ojdbc8-12.2.0.1.jar 2020-02-21 15:51 4036257 即可测试成功...原创 2022-06-06 14:41:55 · 1428 阅读 · 0 评论 -
CDH之Hive-Could not connect to data1:10000 (code THRIFTTRANSPORT): TTransportException
Could not connect to hadoop02:10000 (code THRIFTTRANSPORT):TTransportException报错原因:由于 HiveServer2 的 Java 堆栈大小(字节)过小,导致意外退出,将HiveServer2配置设置大些即可原创 2021-10-22 14:45:33 · 2185 阅读 · 0 评论 -
CDH6.3.x主机告警“以下网络接口似乎未以全速运行:virbr0-nic。2+主机网络接口似乎以全速运行。对于+1+主机网络接口,Cloudera+Manager+Agent+无法确定双工模式或接
问题原因:Linux机器有多张网卡,CDH检测网络时候采集了virbr0网卡的信息,事实上virbr0是不可用的,所以会出现这种错误解决方案:①在该机器的配置中搜索—》 网络—》修改网络接口收集排除正则表达式网络接口收集排除正则表达式:^virbr...原创 2021-10-21 15:07:24 · 955 阅读 · 0 评论 -
CDH之Configured broker.id 2 doesn‘t match stored broker.id 0 in meta.properties.
报错解决如果报下面这种的错误 ! 这个是因为你之前安装kafka 错误,或者别的原因 在 kafka的 log和data目录下回生成 一个 meta.properties. 这个里面也有broker.id , 所以解决方法 直接清空这两个目录即可Configured broker.id 2 doesn’t match stored broker.id 0 inmeta.properties.CDH6.2 默认的参考目录是log : /var/log/kafka/logsdata :原创 2021-10-21 14:01:09 · 366 阅读 · 0 评论 -
CDH之CDH6.X完全卸载步骤
转载: http://blog.csdn.net/wulantian/article/details/42706777//CDH6.X完全卸载步骤关闭集群中的所有服务。这个可以通过clouder manger 主页关闭集群。卸载[root@master ~]# /usr/share/cmf/uninstall-cloudera-manager.sh [root@slave1 ~]# service cloudera-scm-agent stop[root@slave1 ~]# servi原创 2021-10-21 11:38:11 · 1391 阅读 · 0 评论 -
CDH之问题记录
问题一Fatal error during KafkaServer startup. Prepare to shutdownkafka.common.InconsistentBrokerIdException: Configured broker.id 56doesn’t match stored broker.id 103 in meta.properties解决办法:找到问题主机(我的是data1主机kafak出现问题),配置文件[root@data1 ~]# find / -name原创 2021-10-18 14:50:38 · 182 阅读 · 0 评论 -
CDH错误之com.google.protobuf.InvalidProtocolBufferException: Protocol message end-group tag
[root@master ~]# hdfs fsck -list-corruptfileblocksFileSystem is inaccessible due to:java.io.IOException: Failed on local exception: com.google.protobuf.InvalidProtocolBufferException: Protocol message end-group tag did not match expected tag.; Host Det原创 2021-10-18 10:47:07 · 1451 阅读 · 0 评论 -
CDH之Centos7部署NTP时间同步及 NTP客户端提示unsynchronised
本配置使用五台虚拟机演示:IP配置172.17.0.102 ntp服务器:本地同步标准时间172.17.0.103 ntp客户端:与内部ntp服务器(85)同步时间172.17.0.104 ntp客户端:与内部ntp服务器(85)同步时间查看ntp是否已经安装:rpm -q ntp如果没有安装则使用命令:yum -y install ntp 安装ntp。如果已经安装(如下)则继续:安装完成后设置ntp开机启动并启动ntp,如下:systemctl enable ntpdsystem原创 2021-10-11 11:38:07 · 3945 阅读 · 0 评论 -
CDH添加Hue服务时,验证数据库连接报错 Unexpected error. Unable to verify database connection.
问题原因因为我们的mysql是重新安装的,服务器重新安装mysql的同时,会删除系统原来的mysql,此时会连带着删除 libmysqlclient.s0.18 文件注意:32位的目录是 /usr/lib/mysql/,64位的目录为 /usr/lib64/mysql/一、在一台从未装过mysql的服务器里,可以在 /usr/lib64/mysql/ 下找到 libmysqlclient.s0.18[root@data1 ~]# scp /usr/lib64/mysql/libmysqlclient原创 2021-10-09 18:11:06 · 589 阅读 · 0 评论 -
CDH之节点资源分发 bad health错误
之前的cloudera-scm-agent安装过,没有卸载干净(问题环境:在第一次安装资源分发发生节点bad health错误)[root@master ~]# rm -rf /var/lib/cloudera-scm-agent/cm_guid[root@master ~]# systemctl restart cloudera-scm-agent亲测可用...原创 2021-07-14 15:38:08 · 432 阅读 · 0 评论 -
CDH学习之查看日志之Cloudera Manager Server是否启动成功
.启动Cloudera Manager Server--查看是否启动systemctl start cloudera-scm-server--查看状态ps -ef | grep cloudera-scm-serversystemctl status cloudera-scm-server 显示 Active: active (running)6.检查端口是否监听安装 netstatyum install net-toolsnetstat -lnpt | grep 7..原创 2021-07-14 15:33:12 · 2853 阅读 · 0 评论