mysql增量导入_mysql 增量导入到elasticsearch

本文介绍了一个用于从MySQL数据库同步数据到Elasticsearch的Shell脚本实例。该脚本通过设置变量和调用特定命令实现指定日期范围内的数据导入。涉及的技术包括Shell脚本、MySQL、Elasticsearch及JDBC连接器。
摘要由CSDN通过智能技术生成
zjtest7-redis:/odbc_es# cat /odbc_es/run_mysql.sh

. ~/.bash_profile

cd /root/check

v_date=`date +%Y-%m-%d '--date=1 days ago'`

echo $v_date

sed -i s/v_date/$v_date/g mysql_import_es.sh

sh ./mysql_import_es.sh

cp -r -f .mysql_import_es.sh mysql_import_es.sh

zjtest7-redis:/odbc_es# cat mysql_import_es.sh

. ~/.bash_profile

bin=/usr/local/elasticsearch-jdbc-2.3.4.0/bin

lib=/usr/local/elasticsearch-jdbc-2.3.4.0/lib

echo '{

"elasticsearch.autodiscover":true,

"elasticsearch.cluster":"es_cluster",

"type" : "jdbc",

"jdbc" : {

"url" : "jdbc:mysql://192.168.32.218:3306/zjzc",

"user" : "root",

"password" : "1234567",

"sql" : "select * from Client where registerTime>=\"v_date 00:00:00\" and registerTime<=\"v_date 23:59:59\"",

"elasticsearch" : {

"cluster" : "es_cluster",

"host" : "192.168.32.80",

"port" : 9300

},

"index" : "logstash-client-v_date",

"type" : "Client"

}

}' | java \

-cp "${lib}/*" \

-Dlog4j.configurationFile=${bin}/log4j2.xml \

org.xbib.tools.Runner \

org.xbib.tools.JDBCImporter

zjtest7-redis:/odbc_es# cat ~/.bashrc

# .bashrc

# User specific aliases and functions

alias rm='rm -i'

#alias cp='cp -i'

alias mv='mv -i'

# Source global definitions

if [ -f /etc/bashrc ]; then

. /etc/bashrc

fi

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值