关系型数据库表导入hive

为了把关系型数据库表导入hive,写了一个工具类。
具体思路:
1、读取关系型数据库表信息。
2、根据表信息创建hive表
3、读取表数据
4、写入文件
5、上传文件到hive,服务器,本地加载到hive中。
使用方法:

1、在配置文件hiveConfiguration.properties 配置好相关信息,如下:

hive.driverName=org.apache.hive.jdbc.HiveDriver
hive.connection.url=jdbc:hive2://192.168.2.39:10000/default
remote.ip=192.168.2.39
remote.username=root
remote.password=123456xX
remote.filepath=/root

remote.ip 是hive所在的服务器ip地址
remote.username 登录hive服务用户名
remote.password 登录hive服务密码
remote.filepath 本地文件上传到hive服务器所在文件夹

2、配置需要导入的关系型数据库信息,如下是测试类:

    @Test
    public void dataImportFromMysql() throws InterruptedException {
        String user = "root";
        String password = "123456";
        String host = "localhost";
        int port = 3306 ;
        String databaseName = "talebase_smartdata";
        String tablename = "sys_user" ;
        int dataSourceType = DataSourceType.MYSQL_TYPE;
        String url = DBUtil.genDatabaseUrl(host,port,databaseName,dataSourceType);
        DBDataImport dataImport = new DBDataImport(user,password,url,dataSourceType,tablename,"e:/upload/");
        dataImport.start();
        dataImport.join();
    }

是不是很简单,如果对您有帮助,欢迎star.代码连接:https://github.com/luosai002/rdbs2hive

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值