windows上的Logstash部署及Logstash-input-jdbc插件

本文介绍了如何在Windows环境中部署Logstash 7.6.2并与Elasticsearch配合使用。内容包括Logstash的功能概述、Windows下的部署步骤,以及详细配置logstash-input-jdbc插件来从MySQL数据库导入数据到Elasticsearch的过程。通过监听MySQL数据表的变化,实现数据的实时同步更新。
摘要由CSDN通过智能技术生成


承接上一篇文章,Elasticsearch介绍及ES在Windows10系统下的安装记录

Windows部署Logstash概述

所属公司:Elastic
官方中文文档:https://www.elastic.co/cn/

Logstash功能概述

  • Logstash 能够动态地采集、转换和传输数据,不受格式或复杂度的影响。利用Grok 从非结构化数据中派生出结构,从 IP地址解码出地理坐标,匿名化或排除敏感字段,并简化整体处理过程。

  • Logstash常与Elasticsearch、kibana一起联合使用,三者合称ELK。

  • Logstash是ELK的中央数据流引擎,用于从不同目标(文件/数据存储/MQ)收集的不同格式数据,经过过滤后支持输出到不同目的地。

Windows下Logstash部署

  • Logstash版本需要与ES匹配,从官网下载Logstash7.6.2,解压后放到ES、Kibana同一目录下。

Windows下logstash-input-jdbc插件下载配置

  • 首先,安装logstash-input-jdbc插件,命令:

logstash-plugin.bat install logstash-input-jdbc;

如果是7.x版本,可能会提示如下信息,这说明7.6.2版本的Logstash已自带该插件。

安装中止,“logstash integration jdbc”已提供插件“logstash input jdbc”;

参考Logstash[7.6]集成插件文档:https://www.elastic.co/guide/en/logstash/current/plugin-integrations.html

将MySQL数据导入ES

操作目的

  • 监听数据表的数据,当我有新增时数据添加到elasticsearch,当我修改时,update到elasticsearch。

预备知识

  • 1、全量更新和增量更新:

    全量更新,就是所有参数都传给后台,全部入库。
    增量更新,则是传一部分参数,然后更新传递的参数。

  • 2、我们需要传入的数据没有修改的必要,而且实时增加,因而需要使用增量更新的方法;

前提条件

  • 使用MobaXterm远程连接一下我们的服务器,此前我们在服务器内已经创建好了名为Te
  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值