使用dataX的clickhousereader功能时报错

出现问题的原因和注意事项

         使用clickhousereader读取数据时报错信息为:com.alibaba.datax.plugin.reader.clickhousereader.LocalStrings, locale zh_CN。

        出现原因是dataX不支持clickhousereader,但可以使用rdbmsreader替代clickhousereader实现从clickhouse同步数据到mysql,

        但要注意一点:一定要确定需要同步的数据里没有struct结构体数据,否则,读取结构体数据不仅会导致同步后的结构体数据乱码,更会导致同步表的条数减少,造成数据丢失。

        万万要确定使用此方法不能同步struct结构体数据

以下是解决方法:

datax缺少clickhouse reader插件

1、把clickhousewriter/libs下的所有jar包复制到rdbmsreader/libs下,同名jar包直接替换,另外,删掉rm -f guava-r05.jar这个包,否则会报错

2、修改plugin.json文件:在"driver" 增加 "ru.yandex.clickhouse.ClickHouseDriver"

放一个示例

{
    "job": {
        "content": [
            {
                "reader": {
                    "name": "rdbmsreader", 
                    "parameter": {
                        "column": ["column1", "column2"], 
                        "connection": [
                            {
                                "jdbcUrl": ["jdbc:clickhouse://172.xx.xxx.x:8123/databasename"], 
                                "table": ["table1"]
                            }
                        ], 
                        "password": "123456", 
                        "username": "default", 
                        "where": ""
                    }
                }, 
                "writer": {
                    "name": "mysqlwriter", 
                    "parameter": {
                        "column": ["column1", "column2"], 
                        "connection": [
                            {
                                "jdbcUrl": "jdbc:mysql://172.xx.xxx.x:3306/databasename", 
                                "table": ["table1"]
                            }
                        ], 
                        "password": "123456", 
                        "preSql": [], 
                        "session": [], 
                        "username": "root", 
                        "writeMode": "insert"
                    }
                }
            }
        ], 
        "setting": {
            "speed": {
                "channel": "1"
            }
        }
    }
}

  • 13
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值