StreamSet之数据流从JDBC到Hbase

2 篇文章 0 订阅
1 篇文章 0 订阅

所有的配置都采用图文的形式,希望小伙伴会喜欢^_^

环境准备:

5.5.56-MariaDB

HDP-2.6.3.0-Hbase-1.1.2

zookeeper-3.4.10

  1. 点击创建管道流
  2. 随便写一个有意义的title和描述

  1. 3.击创建好的管道流的title进入管理页面,然后选择All Stages,在下面输入jdbc

  1. 4.首先配置JDBC

注意:sql一定要加上as,as “hbase列族:hbase列名” ,${OFFSET}和Initial Offset的值一样,

下边用户认证和增量模式打上勾,sql quer 要遵循以下格式:

SELECT * FROM table WHERE id > ${OFFSET} ORDER BY id,要不然会不成功。

数据库用户名和密码

  1. 配置Hbase

下面3个都勾选

Ignore Missing Field:忽略空字段

Implicit field mapping:自动匹配字段映射,勾上这个我们就不用配置字段映射了(fields)

Ignore Invalid Column:忽略空行

  1. 启动

注意:jdbc语句要和Hbase字段对应:
SELECT id as ID,
id as "f1:id",
name as "f1:name",
idcard as "f1:idcard",
sex as "f1:sex",
created_date as "f1:created_date",
last_modified_date as "f1:last_modified_date",
password as "f1:password",
username as "f1:username",
created_by_id as "f1:created_by_id",
last_modified_by_id as "f1:last_modified_by_id"
FROM user where id > ${OFFSET} ORDER BY id;

最后,欢迎热爱技术的小伙伴加入我们的聊天群qq:852278138

  • 0
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值