1. 选择同步边界
- 字段id
当数据库有新增字段时logstash就会同步到es中。缺点是当数据更新时,logstash无法感知。 - updateTime
一般情况下我们选择这个,updatetime不管是新增还是修改都会产生变化,logstash能够感知。
2.logstash-jdbc插件(新版本自带的)
3.准备
- 下载logstash 注意版本跟es一致(https://www.elastic.co/cn/downloads/elasticsearch)
- 下载 数据库连接驱动 mysql-connector-java-5.1.41.jar
- 解压,配置
tar -zxvf logstash.x.x // 解压
cd logstash.x.x // 进入文件夹
mkdir sync // 创建文件夹
cd sync // 进入文件夹
vim logstash-db-sync.conf // 创建同步规则配置文件
cp ~/mysql-connector . // 复制驱动到当前目录
logstash-db-sync.conf
input {
jdbc {
# 驱动的路径,在上一步中已经下载
jdbc_driver_library => "/usr/local/sql/mysql-connector-java-5.1.46.jar"
# 数据库地址
jdbc_driver_class => "com.mysql.jdbc.