hbase操作遇到的error

问题一:hregionserver打不开

如果从节点的hregionserver打不开,应该是因为时间不同步!!!

问题二:

写好的MR程序要打包到集群,之后:
将写好的程序打包上传到linux上执行报错

Exception in thread “main” java.lang.NoClassDefFoundError: org/apache/hadoop/hbase/client/Scan
at hbase_mr.Hbase2Hdfs.getScan(Hbase2Hdfs.java:96)
at hbase_mr.Hbase2Hdfs.main(Hbase2Hdfs.java:75)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:498)
at org.apache.hadoop.util.RunJar.run(RunJar.java:221)
at org.apache.hadoop.util.RunJar.main(RunJar.java:136)
Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.hbase.client.Scan
at java.net.URLClassLoader.findClass(URLClassLoader.java:381)
at java.lang.ClassLoader.loadClass(ClassLoader.java:424)
at java.lang.ClassLoader.loadClass(ClassLoader.java:357)

原因:hadoop使用了hbase的包,但是hadoop中没有

解决:
1、打包时将所有依赖包都打入jar包内
2、

export HADOOP_CLASSPATH=$HADOOP_CLASSPATH:/apps/hbase-1.2.1/lib/*

存在弊端,只对当前session有效,如果hbase的相关操作在map方法获取reduce方法中执行,这种错误依然出现
3、vi hadoop-env.sh (推荐的使用方法)
加入

export HADOOP_CLASSPATH=$HADOOP_CLASSPATH:/apps/hbase-1.2.1/lib/*

同步到所有节点。重启集群
4、copy hbase的依赖包/apps/hbase-1.2.1/lib/* 到hadoop的classpath目录下,但是这种容易造成依赖包冲突

问题三:自己定义的类找不到

Error: java.lang.RuntimeException: java.lang.ClassNotFoundException: Class hbase_mr.Hdfs2Hbase$ MyMapper not found
at org.apache.hadoop.conf.Configuration.getClass(Configuration.java:2195)
at org.apache.hadoop.mapreduce.task.JobContextImpl.getMapperClass(JobContextImpl.java:186)
at org.apache.hadoop.mapred.MapTask.runNewMapper(MapTask.java:745)
at org.apache.hadoop.mapred.MapTask.run(MapTask.java:341)
at org.apache.hadoop.mapred.YarnChild$ 2.run(YarnChild.java:164)
at java.security.AccessController.doPrivileged(Native Method)
at javax.security.auth.Subject.doAs(Subject.java:422)
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1657)
at org.apache.hadoop.mapred.YarnChild.main(YarnChild.java:158)
Caused by: java.lang.ClassNotFoundException: Class hbase_mr.Hdfs2Hbase$MyMapper not found

解决:

在java代码中添加:job.setJarByClass(XXXXX.class)

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值