Mysql 数据导入 Hbase

本文介绍了在大数据项目中,由于使用sqoop进行数据迁移时遇到的问题,如Row key处理和数据类型转换等,作者决定自行开发一个maven项目来解决这些问题。项目重点包括通过mybatis查询数据并转化为Hbase的二进制类型,灵活处理Row Key和数据过滤。提供了项目代码的GitHub和CSDN下载链接,以及数据实时同步的相关文章详情。
摘要由CSDN通过智能技术生成

目录

一、前言

二、使用sqoop遇到的问题

三、项目搭建(maven项目)

四、项目重点

五、项目代码

六、数据实时同步


一、前言

在大数据项目中需要做数据迁移时,我们第一时间总会想到sqoop。sqoop是apache 旗下一款“Hadoop 和关系数据库服务器之间传送数据”的工具,使用才来也很方便。但因项目需求在使用sqoop是遇到了一些问题,所以决定自己开发一个一个项目解决该问题。

二、使用sqoop遇到的问题

  1. 想要利用hbase的特性,数据按照Row key的字典序排序存储,但使用sqoop时无法对Row key做特殊处理;
  2. 使用sqoop将数据导入hbase一些数据都默认变成字符串类型。

三、项目搭建(maven项目)

依赖

<dependency>

            <groupId>mysql</groupId>

            <artifactId>mysql-connector-java</artifactId>

            <version>5.1.43</version>

        </dependency>

        <dependency>

            <groupId>org.mybatis</groupId>

            <artifactId>mybatis</artifactId>

            <version>3.4.1</version>

        </dependency>

        <dependency>

            <groupId>log4j</groupId>

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值