SpringBoot整合Elastricsearch + LogStash + Kibana太简单了！

ElasticSearch

---

Elasticsearch 是一个分布式的 RESTful 风格的搜索和数据分析引擎，能够解决不断涌现出的各种用例。作为 Elastic Stack 的核心，它集中存储您的数据，帮助您发现意料之中以及意料之外的情况。

Mac安装和运行

安装：brew install elasticsearch

运行：elasticsearch

linux: 从Elasticsearch官方地址下载（也可以下载完，通过ftp之类的工具传上去），gz文件的话通过tar进行解压缩，然后进入bin目录下运行软件

[root@VM_234_23_centos app]# curl -L -O https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.2.4.tar.gz

[root@VM_234_23_centos app]# tar -zxvf elasticsearch-6.2.4.tar.gz

[root@VM_234_23_centos app]# cd elasticsearch-6.2.4

[root@VM_234_23_centos elasticsearch-6.2.4]# ./bin/elasticsearch

注意

在Linux机器上，运行elasticsearch需要一个新的用户组，文章最后有Elastic在linux安装的踩坑记录

---

Logstash

---

Logstash 是开源的服务器端数据处理管道，能够同时从多个来源采集数据，转换数据，然后将数据发送到您最喜欢的 “存储库” 中。（我们的存储库当然是 Elasticsearch。）-官方卖萌

「1. 软件安装」

Mac安装：

brew install logstash

linux安装：

[root@VM_234_23_centos app]# curl -L -O https://artifacts.elastic.co/downloads/logstash/logstash-6.3.2.tar.gz

% Total    % Received % Xferd  Average Speed   Time    Time     Time  Current

Dload  Upload   Total   Spent    Left  Speed

100  137M  100  137M    0     0  5849k      0  0:00:24  0:00:24 --:–:-- 6597k

[root@VM_234_23_centos app]# tar -zxvf logstash-6.3.2.tar.gz

「2. 修改配置文件」

vim /etc/logstash.conf

「conf文件，指定要使用的插件，和配置对应的elasticsearch的hosts」

input { stdin { } }

output {

elasticsearch { hosts => [“localhost:9200”] }

stdout { codec => rubydebug }

}

「3. 运行」

bin/logstash -f logstash.conf

「4. 访问http://localhost:9600/」

{

“host”: “=-=”,

“version”: “6.2.4”,

“http_address”: “127.0.0.1:9600”,

“id”: “5b47e81f-bdf8-48fc-9537-400107a13bd2”,

“name”: “=-=”,

“build_date”: “2018-04-12T22:29:17Z”,

“build_sha”: “a425a422e03087ac34ad6949f7c95ec6d27faf14”,

“build_snapshot”: false

}

「在elasticsearch日志中，也能看到logstash正常加入的日志」

[2018-08-16T14:08:36,436][INFO ][o.e.c.m.MetaDataIndexTemplateService] [f2s1SD8] adding template [logstash] for index patterns [logstash-*]

「看到这种返回值，表示已经成功安装和启动」

踩坑

在运行的那一步，有可能遇到内存分配错误

Java HotSpot(TM) 64-Bit Server VM warning: INFO: os::commit_memory(0x00000000c5330000, 986513408, 0) failed; error=’Cannot allocate memory’ (errno=12)

这个错误很明显就是内存不足，由于个人购买的是腾讯云1G内存的服务器（如果是壕，请随意购买更高的配置=-=），已经运行了elasticsearch，导致logstash分配不到足够的内存，所以最后要修改一下jvm配置。

[root@VM_234_23_centos logstash-6.3.2]# cd config/

[root@VM_234_23_centos config]# ll

total 28

-rw-r–r-- 1 root root 1846 Jul 20 14:19 jvm.options

-rw-r–r-- 1 root root 4466 Jul 20 14:19 log4j2.properties

-rw-r–r-- 1 root root 8097 Jul 20 14:19 logstash.yml

-rw-r–r-- 1 root root 3244 Jul 20 14:19 pipelines.yml

-rw-r–r-- 1 root root 1696 Jul 20 14:19 startup.options

[root@VM_234_23_centos config]# vim jvm.options

「将-Xms1g -Xmx1g修改为」

-Xms256m

-Xmx256m

「然后就能正常启动了~~」

---

Kibana

---

「1. 软件安装」

Kibana 让您能够可视化 Elasticsearch 中的数据并操作 Elastic Stack，因此您可以在这里解开任何疑问：例如，为何会在凌晨 2:00 被传呼，雨水会对季度数据造成怎样的影响。（而且展示的图标十分酷炫）

Mac安装

brew install kibana

linux安装，官方下载地址：

https://www.elastic.co/downloads/kibana

[root@VM_234_23_centos app]# curl -L -O https://artifacts.elastic.co/downloads/kibana/kibana-6.3.2-linux-x86_64.tar.gz

% Total    % Received % Xferd  Average Speed   Time    Time     Time  Current

Dload  Upload   Total   Spent    Left  Speed

0  195M    0  271k    0     0  19235      0  2:57:54  0:00:14  2:57:40 26393

「在这一步，有可能下载速度奇慢，所以我本地下载好之后，通过rz命令传输到服务器」

[root@VM_234_23_centos app]# rz

rz waiting to receive.

Starting zmodem transfer.  Press Ctrl+C to cancel.

Transferring kibana-6.3.2-linux-x86_64.tar.gz…

100%  200519 KB     751 KB/sec    00:04:27       0 Errors

[root@VM_234_23_centos app]# tar -zxvf kibana-6.3.2-linux-x86_64.tar.gz

「2. 修改配置」

修改 config/kibana.yml 配置文件，设置 elasticsearch.url 指向 Elasticsearch 实例。

如果跟我一样使用默认的配置，可以不需要修改该文件

「3. 启动」

[root@VM_234_23_centos kibana]# ./bin/kibana

「4. 访问 http://localhost:5601/app/kibana#/home?_g=()」

「界面显示了这么多功能，下面通过整合SLF4J+LogBack」

---

整合Spring+Logstash

---

「1. 修改logstash.conf后，重新启动logstash」

input {

# stdin { }

tcp {

# host:port就是上面appender中的 destination，

# 这里其实把logstash作为服务，开启9250端口接收logback发出的消息

host => “127.0.0.1” port => 9250 mode => “server” tags => [“tags”] codec => json_lines

}

}

output {

elasticsearch { hosts => [“localhost:9200”] }

stdout { codec => rubydebug }

}

「2. 在Java应用中引用依赖」

net.logstash.logback

logstash-logback-encoder

5.2

「3. 在Logback.xml中配置日志输出」

<appender name=“stash”

class=“net.logstash.logback.appender.LogstashTcpSocketAppender”>

localhost:9250

<encoder charset=“UTF-8”

class=“net.logstash.logback.encoder.LogstashEncoder” >

{“appname”:“ye_test”}

  

「由于我在第一步骤中，没有指定对应的index，所以在服务启动的时候，日志采集器Logstash帮我自动创建了logstash-timestamp的index」

「4. 在kibana中添加index索引」

「5. 在左边discover中查看索引信息」

「6. 添加可视化图表Visualize」

「还有更多功能还在探索中，首先环境搭起来才会用动力继续去学习~」

---

踩坑记录

---

启动报错

uncaught exception in thread [main] org.elasticsearch.bootstrap.StartupException: java.lang.RuntimeException: can not run elasticsearch as root

原因：不能使用Root权限登录

解决方案：切换用户

[root@VM_234_23_centos ~]# groupadd es

[root@VM_234_23_centos ~]# useradd es -g es -p es

[root@VM_234_23_centos ~]# chown es:es /home/app/elasticsearch/

# 切换用户，记得su - ，这样才能获得环境变量

[root@VM_234_23_centos ~]# sudo su - es

---

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Java工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Java开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Java开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且会持续更新！

如果你觉得这些内容对你有帮助，可以扫码获取！！（备注Java获取）

总结

面试建议是，一定要自信，敢于表达，面试的时候我们对知识的掌握有时候很难面面俱到，把自己的思路说出来，而不是直接告诉面试官自己不懂，这也是可以加分的。

以上就是蚂蚁技术四面和HR面试题目，以下最新总结的最全，范围包含最全MySQL、Spring、Redis、JVM等最全面试题和答案，仅用于参考

《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取！
了95%以上Java开发知识点，真正体系化！**

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且会持续更新！

如果你觉得这些内容对你有帮助，可以扫码获取！！（备注Java获取）

总结

面试建议是，一定要自信，敢于表达，面试的时候我们对知识的掌握有时候很难面面俱到，把自己的思路说出来，而不是直接告诉面试官自己不懂，这也是可以加分的。

以上就是蚂蚁技术四面和HR面试题目，以下最新总结的最全，范围包含最全MySQL、Spring、Redis、JVM等最全面试题和答案，仅用于参考

[外链图片转存中…(img-3TAEWMU1-1713411630509)]

《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取！