ElasticSearch数据库同步插件logstash

 

　　1.下载和elasticsearch 相同版本的logstash.

　　2.进行解压后,进入bin下,新建一个文件mysql.conf,并输入

input {
stdin{
}
}

output {
stdout{
}
}

3.cmd进入bin 下,输入logstash -f mysql.conf  启动后,输入　　http://127.0.0.1:9600/

4.ok;说明已经启动了

 

一个配置

input {
stdin {
}
#可以设置多个jdbc,也就是多个表的映射,type和下面的进行对应
jdbc {
# mysql 数据库链接,shop为数据库名
jdbc_connection_string => "jdbc:mysql://127.0.0.1:3306/cheng"
# 用户名和密码
jdbc_user => "root"
jdbc_password => "admin"
# 驱动
jdbc_driver_library => "./../lib/mysql-connector-java-5.1.38.jar"
# 驱动类名
jdbc_driver_class => "com.mysql.jdbc.Driver"
#是否分页查询
jdbc_paging_enabled => "true"
jdbc_page_size => "50000"
# 执行的sql 文件路径+名称
statement_filepath => "./mysql.sql"
# 设置监听间隔 各字段含义（由左至右）分、时、天、月、年，全部为*默认含义为每分钟都更新
schedule => "* * * * *"
# 索引类型
type => "content"
}
}

filter {
json {
source => "message"
remove_field => ["message"]
}
}

 

output {
#可以设置多个type,也就是多个表的映射
if[type] == "content"{
elasticsearch {
hosts => ["localhost:9200"]
#es索引名称
index => "cmscontent"
#自增ID编号
document_id => "%{id}"
}
stdout {
codec => json_lines
}
}
}

 

 

 

 

转载于:https://www.cnblogs.com/chengyangyang/p/10184463.html