datax将mysql导入文本_使用datax 导入mysql 数据到clickhouse

本文介绍了如何使用DataX将MySQL数据库中的数据导入到ClickHouse中,包括安装DataX、配置数据导入JSON文件以及执行导入任务的详细步骤。
摘要由CSDN通过智能技术生成

1.需要编译安装datax ,目前官网的安装包不支持clickhouse导入

2.新建数据导入clickhouse json文件 /datax/job/mysql2clickhouse.json

{

"job": {

"setting": {

"speed": {

"channel": 1

},

"errorLimit": {

"record": 0,

"percentage": 0.02

}

},

"content": [

{

"reader": {

"name": "mysqlreader",

"parameter": {

"username": "root",

"password": "123456",

"column": [

"id",

"name"

],

"splitPk": "id",

"connection": [

{

"table": [

"data_copy1"

],

"jdbcUrl": [

"jdbc:mysql://192.168.3.175:3306/lyjtest?useUnicode=true&characterEncoding=UTF-8",

]

}

]

}

},

"writer": {

"name": "clickhousewriter",

"parameter": {

"username": "lyj",

"password": "123456",

"column":["id","name"],

"connection": [

{

"jdbcUrl": "jdbc:clickhouse://192.168.3.177:8123/test",

"table":["test"]

}

],

"batchSize": 65536,

"batchByteSize": 134217728,

"dryRun": false,

"writeMode": "insert"

}

}

}

]

}

}

3.执行

python ../bin/datax.py mysql2clickhouse.json

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值