
ELK
文章平均质量分 97
sunboychenll
这个作者很懒,什么都没留下…
展开
-
elk 之logstach管道用法
1:../bin/logstash -e 'input{stdin{}} output {stdout{}}' -t主要是输入和过滤及输出流程2:通过定义conf文件来执行:input { stdin { } }filter { grok { match => { "message" => "%{WORD:request}\?client=%{WORD:client}&areaCode=%{NUMBER:...原创 2020-09-26 14:39:21 · 294 阅读 · 0 评论 -
elasticsearch 启动时指定jdk版本
export JAVA_HOME=/data/software/java/jdk1.8.0_261/export PATH=$JAVA_HOME/bin:$PATH#添加jdk判断if [ -x "$JAVA_HOME/bin/java" ]; then JAVA="/data/software/java/jdk1.8.0_261/bin/java"else JAVA=`which java`fi直接加到第一排就行了...原创 2020-09-25 17:16:54 · 1125 阅读 · 0 评论 -
elk组合查询 es组合查询
例子1:根据时间范围 和用户Id查询get voucher_record_form/_search{ "query":{ "bool": { "must": { "range": { "createTime": { "gte":1601091496, "lte":1601609835 } ...原创 2020-09-23 13:42:27 · 1328 阅读 · 0 评论 -
elk es配置开机自动
#!/bin/sh#chkconfig: 2345 80 05#description: eses_dir=/data/software/es/elasticsearch-7.7.0file_name=elasticsearchcase $1 instart)#echo "stoping ${file_name}"es_pid=`ps aux|grep elasticsearch | grep -v 'grep elasticsearch' | awk '{print $2}'`#for原创 2020-09-22 14:06:56 · 212 阅读 · 0 评论 -
elk es创建索引结构相关例子
例子1:put voucher_record_form{ "settings": { "analysis": { "analyzer": { "default": { "type": "ik_max_word" } } } }, "mappings": { "properties": { "id":{ "type":"long" },...原创 2020-09-22 12:00:46 · 277 阅读 · 1 评论 -
ELK 之 Canal 导出mysql的表数据到es 多库不同表
没有任何基础的请先看,第一篇:ELK 之 Canal导出mysql表数据到eshttps://mp.csdn.net/console/editor/html/1086586971:先配置多个库源,如下:cd /data/software/es/canal/adapter/conf这里的名字自己定义。2:/data/software/es/canal/adapter/conf/es7目录下:第一个库下面的表,指定的defaultDS第一个库下的,关联表指..原创 2020-09-18 17:30:24 · 525 阅读 · 1 评论 -
ELK 之 Canal导出mysql表数据到es
可以参考,写的挺详细的https://abcops.cn/1279.html介绍:Canal是基于MySQL二进制日志的高性能数据同步系统 属于阿里巴巴的一个开源项目,基于java实现,整体已经在很多大型的互联网项目生产环境中使用,包括阿里、美团等都有广泛的应用,是一个非常成熟的数据库同步方案,基础的使用只需要进行简单的配置即可,以提供可靠的低延迟增量数据管道。官方文档:https://github.com/alibaba/canal/wiki项目地址:https://github.com原创 2020-09-18 10:17:09 · 912 阅读 · 0 评论 -
ELK 之 logStash之使用mysql的sql查询
使用SQL单个索引查询,可惜的是不能支持多个索引查询get _sql?format=txt{ "query":""" select u.id,u.name,u.age from mytest u where u.id >0 """, "fetch_size":5}get _sql?format=json{ "query":""" select u.id,u.name,u.age from mytest u where u.id >0 order by i...原创 2020-09-17 14:18:33 · 495 阅读 · 0 评论 -
ELK 之 logStash导出多个表和多表关联查询结果 到mysql数据到es
导出多个表如下:在/data/software/es/logstash-7.7.0/config目录下新建一个test-multi-logstash.conf文件,内容如下:input { jdbc { type => "id" #数据库连接信息 jdbc_connection_string => "jdbc:mysql://rdsiinfrfy*******936820.mysql.rds.aliyuncs.com:330...原创 2020-09-17 14:16:41 · 1299 阅读 · 0 评论 -
ELK 之 elasticsearch-7.7.0 及kibana-7.7.0 安装 并指定JDK
却显示“拒绝了我们的连接请求”,因此我们还需要配置一下 Elasticsearch 以允许我们进行外网访问,进入 elasticsearch-7.7.0 下的 config 目录,编辑 elasticsearch.yml 文件,删除 network.host 前的#字符,并写入服务器的地址并 保存http://121.40.42.***:9200/ 显示如下:Kibana安装查看kibana是否启动了,用如下命...原创 2020-09-16 17:17:49 · 1200 阅读 · 0 评论 -
ELK 之 logStash导出mysql单表数据到es
1:首先下载和解压:tar -zvxflogstash-7.7.0.tar.gz 进行解压2:在logstash-7.7.0/lib 路径下新创建jars文件夹.并且下载mysql-connector-java-8.0.15.jarmkdir jarswget https://repo1.maven.org/maven2/mysql/mysql-connector-java/8.0.15/mysql-connector-java-8.0.15.jarmysql-conne...原创 2020-09-16 16:59:52 · 488 阅读 · 0 评论