SpringBoot整合Elastricsearch + LogStash + Kibana太简单了!

《一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码》点击传送门,即可获取!

ElasticSearch


Elasticsearch 是一个分布式的 RESTful 风格的搜索和数据分析引擎,能够解决不断涌现出的各种用例。作为 Elastic Stack 的核心,它集中存储您的数据,帮助您发现意料之中以及意料之外的情况。

Mac安装和运行

安装:brew install elasticsearch

运行:elasticsearch

linux: 从Elasticsearch官方地址下载(也可以下载完,通过ftp之类的工具传上去),gz文件的话通过tar进行解压缩,然后进入bin目录下运行软件

[root@VM_234_23_centos app]# curl -L -O https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.2.4.tar.gz

[root@VM_234_23_centos app]# tar -zxvf elasticsearch-6.2.4.tar.gz

[root@VM_234_23_centos app]# cd elasticsearch-6.2.4

[root@VM_234_23_centos elasticsearch-6.2.4]# ./bin/elasticsearch

注意

在Linux机器上,运行elasticsearch需要一个新的用户组,文章最后有Elastic在linux安装的踩坑记录


Logstash


Logstash 是开源的服务器端数据处理管道,能够同时从多个来源采集数据,转换数据,然后将数据发送到您最喜欢的 “存储库” 中。(我们的存储库当然是 Elasticsearch。)-官方卖萌

「1. 软件安装」

Mac安装:

brew install logstash

linux安装:

[root@VM_234_23_centos app]# curl -L -O https://artifacts.elastic.co/downloads/logstash/logstash-6.3.2.tar.gz

% Total    % Received % Xferd  Average Speed   Time    Time     Time  Current

Dload  Upload   Total   Spent    Left  Speed

100  137M  100  137M    0     0  5849k      0  0:00:24  0:00:24 --:–:-- 6597k

[root@VM_234_23_centos app]# tar -zxvf logstash-6.3.2.tar.gz

「2. 修改配置文件」

vim /etc/logstash.conf

「conf文件,指定要使用的插件,和配置对应的elasticsearch的hosts」

input { stdin { } }

output {

elasticsearch { hosts => [“localhost:9200”] }

stdout { codec => rubydebug }

}

「3. 运行」

bin/logstash -f logstash.conf

「4. 访问http://localhost:9600/」

{

“host”: “=-=”,

“version”: “6.2.4”,

“http_address”: “127.0.0.1:9600”,

“id”: “5b47e81f-bdf8-48fc-9537-400107a13bd2”,

“name”: “=-=”,

“build_date”: “2018-04-12T22:29:17Z”,

“build_sha”: “a425a422e03087ac34ad6949f7c95ec6d27faf14”,

“build_snapshot”: false

}

「在elasticsearch日志中,也能看到logstash正常加入的日志」

[2018-08-16T14:08:36,436][INFO ][o.e.c.m.MetaDataIndexTemplateService] [f2s1SD8] adding template [logstash] for index patterns [logstash-*]

「看到这种返回值,表示已经成功安装和启动」

踩坑

在运行的那一步,有可能遇到内存分配错误

Java HotSpot(TM) 64-Bit Server VM warning: INFO: os::commit_memory(0x00000000c5330000, 986513408, 0) failed; error=’Cannot allocate memory’ (errno=12)

这个错误很明显就是内存不足,由于个人购买的是腾讯云1G内存的服务器(如果是壕,请随意购买更高的配置=-=),已经运行了elasticsearch,导致logstash分配不到足够的内存,所以最后要修改一下jvm配置。

[root@VM_234_23_centos logstash-6.3.2]# cd config/

[root@VM_234_23_centos config]# ll

total 28

-rw-r–r-- 1 root root 1846 Jul 20 14:19 jvm.options

-rw-r–r-- 1 root root 4466 Jul 20 14:19 log4j2.properties

-rw-r–r-- 1 root root 8097 Jul 20 14:19 logstash.yml

-rw-r–r-- 1 root root 3244 Jul 20 14:19 pipelines.yml

-rw-r–r-- 1 root root 1696 Jul 20 14:19 startup.options

[root@VM_234_23_centos config]# vim jvm.options

「将-Xms1g -Xmx1g修改为」

-Xms256m

-Xmx256m

「然后就能正常启动了~~」


Kibana


「1. 软件安装」

Kibana 让您能够可视化 Elasticsearch 中的数据并操作 Elastic Stack,因此您可以在这里解开任何疑问:例如,为何会在凌晨 2:00 被传呼,雨水会对季度数据造成怎样的影响。(而且展示的图标十分酷炫)

Mac安装

brew install kibana

linux安装,官方下载地址:

https://www.elastic.co/downloads/kibana

[root@VM_234_23_centos app]# curl -L -O https://artifacts.elastic.co/downloads/kibana/kibana-6.3.2-linux-x86_64.tar.gz

% Total    % Received % Xferd  Average Speed   Time    Time     Time  Current

Dload  Upload   Total   Spent    Left  Speed

0  195M    0  271k    0     0  19235      0  2:57:54  0:00:14  2:57:40 26393

「在这一步,有可能下载速度奇慢,所以我本地下载好之后,通过rz命令传输到服务器」

[root@VM_234_23_centos app]# rz

rz waiting to receive.

Starting zmodem transfer.  Press Ctrl+C to cancel.

Transferring kibana-6.3.2-linux-x86_64.tar.gz…

100%  200519 KB     751 KB/sec    00:04:27       0 Errors

[root@VM_234_23_centos app]# tar -zxvf kibana-6.3.2-linux-x86_64.tar.gz

「2. 修改配置」

修改 config/kibana.yml 配置文件,设置 elasticsearch.url 指向 Elasticsearch 实例。

如果跟我一样使用默认的配置,可以不需要修改该文件

「3. 启动」

[root@VM_234_23_centos kibana]# ./bin/kibana

「4. 访问 http://localhost:5601/app/kibana#/home?_g=()」

「界面显示了这么多功能,下面通过整合SLF4J+LogBack」


整合Spring+Logstash


「1. 修改logstash.conf后,重新启动logstash」

input {

# stdin { }

tcp {

# host:port就是上面appender中的 destination,

# 这里其实把logstash作为服务,开启9250端口接收logback发出的消息

host => “127.0.0.1” port => 9250 mode => “server” tags => [“tags”] codec => json_lines

}

}

output {

elasticsearch { hosts => [“localhost:9200”] }

stdout { codec => rubydebug }

}

「2. 在Java应用中引用依赖」

net.logstash.logback

logstash-logback-encoder

5.2

「3. 在Logback.xml中配置日志输出」

<appender name=“stash”

class=“net.logstash.logback.appender.LogstashTcpSocketAppender”>

localhost:9250

<encoder charset=“UTF-8”

class=“net.logstash.logback.encoder.LogstashEncoder” >

{“appname”:“ye_test”}

  

「由于我在第一步骤中,没有指定对应的index,所以在服务启动的时候,日志采集器Logstash帮我自动创建了logstash-timestamp的index」

「4. 在kibana中添加index索引」

「5. 在左边discover中查看索引信息」

「6. 添加可视化图表Visualize」

「还有更多功能还在探索中,首先环境搭起来才会用动力继续去学习~」


踩坑记录


启动报错

uncaught exception in thread [main] org.elasticsearch.bootstrap.StartupException: java.lang.RuntimeException: can not run elasticsearch as root

原因:不能使用Root权限登录

解决方案:切换用户

[root@VM_234_23_centos ~]# groupadd es

[root@VM_234_23_centos ~]# useradd es -g es -p es

[root@VM_234_23_centos ~]# chown es:es /home/app/elasticsearch/

# 切换用户,记得su - ,这样才能获得环境变量

[root@VM_234_23_centos ~]# sudo su - es


如何快速更新自己的技术积累?

  • 在现有的项目里,深挖技术,比如用到netty可以把相关底层代码和要点都看起来。
  • 如果不知道目前的努力方向,就看自己的领导或公司里技术强的人在学什么。
  • 知道努力方向后不知道该怎么学,就到处去找相关资料然后练习。
  • 学习以后不知道有没有学成,则可以通过面试去检验。

我个人觉得面试也像是一场全新的征程,失败和胜利都是平常之事。所以,劝各位不要因为面试失败而灰心、丧失斗志。也不要因为面试通过而沾沾自喜,等待你的将是更美好的未来,继续加油!

以上面试专题的答小编案整理成面试文档了,文档里有答案详解,以及其他一些大厂面试题目

八年CRUD,疫情备战三个月,三面头条、四面阿里拿offer面经分享

八年CRUD,疫情备战三个月,三面头条、四面阿里拿offer面经分享

《一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码》点击传送门,即可获取!
 - ,这样才能获得环境变量

[root@VM_234_23_centos ~]# sudo su - es


如何快速更新自己的技术积累?

  • 在现有的项目里,深挖技术,比如用到netty可以把相关底层代码和要点都看起来。
  • 如果不知道目前的努力方向,就看自己的领导或公司里技术强的人在学什么。
  • 知道努力方向后不知道该怎么学,就到处去找相关资料然后练习。
  • 学习以后不知道有没有学成,则可以通过面试去检验。

我个人觉得面试也像是一场全新的征程,失败和胜利都是平常之事。所以,劝各位不要因为面试失败而灰心、丧失斗志。也不要因为面试通过而沾沾自喜,等待你的将是更美好的未来,继续加油!

以上面试专题的答小编案整理成面试文档了,文档里有答案详解,以及其他一些大厂面试题目

[外链图片转存中…(img-T33lEQVm-1714757813874)]

[外链图片转存中…(img-5zdOkpQx-1714757813875)]

《一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码》点击传送门,即可获取!

  • 16
    点赞
  • 27
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值