windows上的Logstash及Logstash-input-jdbc插件
承接上一篇文章,Elasticsearch介绍及ES在Windows10系统下的安装记录
Windows部署Logstash概述
所属公司:Elastic
官方中文文档:https://www.elastic.co/cn/
Logstash功能概述
-
Logstash 能够动态地采集、转换和传输数据,不受格式或复杂度的影响。利用Grok 从非结构化数据中派生出结构,从 IP地址解码出地理坐标,匿名化或排除敏感字段,并简化整体处理过程。
-
Logstash常与Elasticsearch、kibana一起联合使用,三者合称ELK。
-
Logstash是ELK的中央数据流引擎,用于从不同目标(文件/数据存储/MQ)收集的不同格式数据,经过过滤后支持输出到不同目的地。
Windows下Logstash部署
- Logstash版本需要与ES匹配,从官网下载Logstash7.6.2,解压后放到ES、Kibana同一目录下。
Windows下logstash-input-jdbc插件下载配置
- 首先,安装logstash-input-jdbc插件,命令:
logstash-plugin.bat install logstash-input-jdbc;
如果是7.x版本,可能会提示如下信息,这说明7.6.2版本的Logstash已自带该插件。
安装中止,“logstash integration jdbc”已提供插件“logstash input jdbc”;
参考Logstash[7.6]集成插件文档:https://www.elastic.co/guide/en/logstash/current/plugin-integrations.html
将MySQL数据导入ES
操作目的
- 监听数据表的数据,当我有新增时数据添加到elasticsearch,当我修改时,update到elasticsearch。
预备知识
-
1、全量更新和增量更新:
全量更新,就是所有参数都传给后台,全部入库。
增量更新,则是传一部分参数,然后更新传递的参数。 -
2、我们需要传入的数据没有修改的必要,而且实时增加,因而需要使用增量更新的方法;
前提条件
- 使用MobaXterm远程连接一下我们的服务器,此前我们在服务器内已经创建好了名为Te