从hbase加载数据到hdfs

14 篇文章 0 订阅

 

    package example2;  
      
    import java.io.IOException;  
      
    import org.apache.hadoop.conf.Configuration;  
    import org.apache.hadoop.fs.Path;  
    import org.apache.hadoop.hbase.HBaseConfiguration;  
    import org.apache.hadoop.hbase.KeyValue;  
    import org.apache.hadoop.hbase.client.Result;  
    import org.apache.hadoop.hbase.client.Scan;  
    import org.apache.hadoop.hbase.io.ImmutableBytesWritable;  
    import org.apache.hadoop.hbase.mapreduce.TableMapReduceUtil;  
    import org.apache.hadoop.hbase.mapreduce.TableMapper;  
    import org.apache.hadoop.hbase.util.Bytes;  
    import org.apache.hadoop.io.IntWritable;  
    import org.apache.hadoop.io.Text;  
    import org.apache.hadoop.mapreduce.Job;  
    import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;  
    import org.apache.hadoop.util.GenericOptionsParser;  
      
    //Administrator  
    public class FromHBaseToHDFSExample {  
          
        public static class HBaseMapper extends TableMapper<IntWritable, Text>{  
      
            @Override  
            protected void map(ImmutableBytesWritable key, Result value,  
                    Context context) throws IOException, InterruptedException {  
                 for(KeyValue kv:value.raw()){  
                     context.write(null, new Text(Bytes.toString(kv.getValue())));  
                 }  
            }  
              
        }  
      
        /** 
         * @param args 
         */  
        public static void main(String[] args)throws Exception {  
            Configuration conf=HBaseConfiguration.create();  
            String []argArray=new GenericOptionsParser(conf, args).getRemainingArgs();  
            if(argArray.length!=1){  
                System.exit(1);  
            }  
            Job job=new Job(conf,"import hbase to hdfs");  
            job.setJarByClass(FromHBaseToHDFSExample.class);  
            TableMapReduceUtil.initTableMapperJob("testtable", new Scan(), HBaseMapper.class, IntWritable.class, Text.class, job);  
            FileOutputFormat.setOutputPath(job, new Path(argArray[0]));  
            job.setNumReduceTasks(0);  
            System.exit(job.waitForCompletion(true) ? 0 : 1);  
              
      
        }  
      
    } 

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值