-
日志管理系统，大家用的最多的可能就是ELK系统（elasticsearch,kibana,logstash）还需要redis或kfka，收集日志还需要不同的beats，整个结构非常复杂，且占用较多资源，要想完全搞懂需要较长时间。
-
但是很多时候，公司系统并不大，使用ELK的成本太高，可以使用一些替代方案，除了ELK还有很多日志管理工具，这里就介绍其中的一个很不错的日志方案：Graylog，Graylog是一个可以跟ELK相提并论的日志管理的后起之秀，一个开源的 log 收容器，背后的储存是搭配 mongodb，而搜寻引擎则由 elasticsearch 提供，自身集成web端，不需要单独部署，目前最新为3.0版本。
1. 准备
安装jdk8，安装方案，详见《centos7.2 安装 JDK-1.8》
安装依赖包
$ yum install epel-release -y
$ yum install pwgen -y
2.安装mongodb
$ vim /etc/yum.repos.d/mongodb-org-3.6.repo
----------------------------------------------------------------
[mongodb-org-4.0]
name=MongoDB Repository
baseurl=https://repo.mongodb.org/yum/redhat/$releasever/mongodb-org/4.0/x86_64/
gpgcheck=1
enabled=1
gpgkey=https://www.mongodb.org/static/pgp/server-4.0.asc
-----------------------------------------------------------------
# 安装
$ yum install -y mongodb-org
# 启动
$ systemctl enable mongod
$ systemctl start mongod
3. 安装elasticsearch
$ rpm --import https://artifacts.elastic.co/GPG-KEY-elasticsearch
# graylog3.0 使用的elasticsearch不低于5.6.13版本，我这里用的最新版6.x
$ vim /etc/yum.repos.d/elasticsearch.repo
----------------------------------------------------------------
[elasticsearch-6.x]
name=Elasticsearch repository for 6.x packages
baseurl=https://artifacts.elastic.co/packages/6.x/yum
gpgcheck=1
gpgkey=https://artifacts.elastic.co/GPG-KEY-elasticsearch
enabled=1
autorefresh=1
type=rpm-md
----------------------------------------------------------------
# 安装
$ yum install elasticsearch
# 修改配置，设置JAVA_HOME
vim /etc/sysconfig/elasticsearch
----------------------------------------------------------------
JAVA_HOME=/usr/local/jdk1.8.0_191 # 填上自己的java_home路径
----------------------------------------------------------------
# 启动
$ systemctl enable elasticsearch
$ systemctl start elasticsearch
4.安装Groylog
$ rpm -Uvh https://packages.graylog2.org/repo/packages/graylog-3.0-repository_latest.rpm
$ yum install graylog-server -y
修改配置， password_secret和root_password_sha2是必须的，不设置则无法启动，设置方法如下：
# 修改配置
vim /etc/graylog/server/server.conf
---------------------------------------------------------------------------------
# passworde_secret可以通过命令：pwgen -N 1 -s 96 来随机生成，下面就是我随机生成的
password_secret = 6Z06fZHU2DwuOf9X8fhnvphCd3OM7oqwLECRRcejvjpieSvVtwu08yHYHIKDi56bAxRvtCOZ3xKKiBqyt00XYCgVa0oETB0L
# admin用户密码生成命令：echo -n yourpassword | sha256sum
# 生成后，请记住你的 YourPassword
root_password_sha2 = e3b0c44298fc1c149afbf4c8996fb92427ae41e4649b934ca495991b7852b855
# admin用户邮箱
root_email = "root@example.com"
# 时区
root_timezone = Asia/Shanghai
# elasticsearch 相关配置
elasticsearch_hosts = http://127.0.0.1:9200
elasticsearch_shards =1
elasticsearch_replicas = 0
# mongodb 连接配置，这里直接本机起的mongodb，没有设置验证
mongodb_uri = mongodb://localhost/graylog
# 电子邮件smtp,设置为自己的邮箱smtp服务
transport_email_enabled = true
transport_email_hostname = smtp.exmail.qq.com
transport_email_port = 465
transport_email_use_auth = true
transport_email_use_tls = false
transport_email_use_ssl = true
transport_email_auth_username = root@example.com
transport_email_auth_password = 123456
transport_email_subject_prefix = [graylog]
transport_email_from_email = root@example.com
transport_email_web_interface_url = http://graylog.example.com
# 网络访问相关，重要，graylog3比2.x版本简洁了很多网络配置，只需配置http_bind_address即可。
http_bind_address = 0.0.0.0:9000
# 配置外网地址，我这里用了域名+nginx做反向代理，所以外网地址如下。没有的话就直接就用外网ip+port，如：http://外网ip:9000/
http_publish_uri = http://graylog.example.com/
# http_external_uri = http://graylog.example.com/ 单节点的话，此配置不需要配置，默认使用http_publish_uri
---------------------------------------------------------------------------------
# 启动需要手动设置Java路径
vim /etc/sysconfig/graylog-server
---------------------------------------------------------------------------------
JAVA=/usr/local/jdk1.8.0_191/bin/java
---------------------------------------------------------------------------------
# 启动服务
$ systemctl enable graylog-server
$ systemctl start graylog-server
5. 访问web页面
按照上面配置，直接配置成外网ip地址，那么直接访问 http://外网ip:9000，就可以进入web登陆页面
输入用户密码登陆
6. 安装Graylog Sidecar（Graylog Collector Sidecar）
- Graylog Sidecar是一个轻量级配置管理系统，适用于不同的日志收集器，也称为后端。Graylog节点充当包含日志收集器配置的集中式集线器。在支持的消息生成设备/主机上，Sidecar可以作为服务（Windows主机）或守护程序（Linux主机）运行。进行在不同机器上进行日志的采集并发送到graylog server
- 在graylog3.0版本以前，称为Graylog Collector Sidecar，在3.0中改为了Graylog Sidecar，在官方文档中有详细安装指导：官方文档入口。这里也参考进行安装。版本对照表如下，首先去github上下载相应的rpm安装包。官方GITHUB下载地址
# 安装
$ rpm -i graylog-sidecar-1.0.0-1.x86_64.rpm
# 修改配置
$ vim /etc/graylog/sidecar/sidecar.yml
----------------------------------------------------------------------------
server_url: "hhttp://graylog.example.com/api/" # api的外网地址
# api token 必要的，不然启动不了，token需要在web界面上进行手动创建
server_api_token: "1jq26cssvc6rj4qac4bt9oeeh0p4vt5u5kal9jocl1g9mdi4og3n"
node_name: "graylog-server-localhost" # 自定义节点名称
update_interval: 10
send_status: true
----------------------------------------------------------------------------
# 安装系统服务
$ graylog-sidecar -service install
$ systemctl start graylog-sidecar
手动创建server_api_token。如图：
ok，到此就可以启动graylog-sidecar了。启动后，在web界面上就可以看到一个节点了，然后下面记录怎么手动配置这个节点的日志采集。首先需要创建一个beats的input，因为我要要用filebeat进行日志采集。
- 然后就需要定义sidecar的filebeat配置，用这个配置来启动filebeat进行日志采集，并输入到上面定义的beats input。但是graylog3.0中，graylog sidecar的linux版本不包含filebeat(3.0版本之前是默认包含filebeat的)，需要自己手动下载安装filebeat，安装非常简单，通过官方下载页面，直接下载rpm包进行安装就行： 下载地址
- PS：我这里是演示的用filebeat进行日志采集，如果用nxlog进行采集，同样的需要安装nxlog程序。
# 安装，目前最新版6.6.0
rpm -i filebeat-6.6.0-x86_64.rpm
ok，就这样就ok啦，然后下面在web界面上进行配置
这里我以采集本机上graylog-server的日志为例子，自定义变量中定义beats input服务的ip和端口，使得sidecar采集器能将数据输入指定input，并可以在所有配置中直接复用。
配置创建完成后，需要将配置与指定sidecar进行联系，然后sidecar就能以执行配置启动filebeat进行日志采集。如图：
然后就能在web界面上，看到采集到的graylog-server的日志
OK，到此，就演示了安装graylog-server和graylog-sidecar的全部过程。根据具体的实际情况，安装sidecar并设置配置就可以。
7. 配置报警设置
首先，在安装graylog-server是需要想我上面那样，配置email的smtp的配置。然后才能使用邮件进行告警通知。
然后第一步，需要设置告警通知，如图，配置时sender一定要与你smtp配置中配置的邮箱相同，不然无法成功发送邮件。
配置好后，Test成功收到邮件即OK。
下面配置触发事件条件，这里我进行测试，定义了一个简单的条件，5分钟后，日志数量超过1条就报警，然后就会触发通知的配置发送报警邮件。实际情况中，具体的报警触发配置就需要自己根据实际情况进行设置。
8.整个Springboot等Java项目的日志输入到graylog中
下面演示如何将JAVA项目的日志输入到graylog中，常见的JAVA项目不管是不是分布式都会使用日志工具，常见的有log4j,logback，这里我以logback作为演示。只需要在项目中映入相关插件依赖然后在logback.xml中配置就能实现自己由服务将日志传输到graylog，就不需要使用filebeat进行日志文件的读取再输入到graylog了。这里推荐一个插件,官方github地址：logstash-gelf
下面开始，先在graylog web界面上定义一个 gelf input：
然后，在JAVA项目中，添加maven依赖最新版本1.13.0：
<dependency>
<groupId>biz.paluch.logging</groupId>
<artifactId>logstash-gelf</artifactId>
<version>1.13.0</version>
</dependency>
然后修改项目logback.xml文件配置,添加如下appender，并启用：
<appender name="GELF" class="biz.paluch.logging.gelf.logback.GelfLogbackAppender">
<host>udp:172.18.73.131</host>
<port>12201</port>
<version>1.1</version>
<facility>test-java-module</facility> # 这里可以定义为服务名等
<extractStackTrace>true</extractStackTrace>
<filterStackTrace>true</filterStackTrace>
<mdcProfiling>true</mdcProfiling>
<timestampPattern>yyyy-MM-dd HH:mm:ss,SSS</timestampPattern>
<maximumMessageSize>8192</maximumMessageSize>
<!-- This are fields using MDC -->
<mdcFields>mdcField1,mdcField2</mdcFields>
<dynamicMdcFields>mdc.*,(mdc|MDC)fields</dynamicMdcFields>
<includeFullMdc>true</includeFullMdc>
</appender>
<root level="INFO">
<appender-ref ref="GELF" />
</root>
除来上面的配置外，还可以手动添加静态字段，详细可以看插件的GITHUB官网。
OK，启动服务，就能在graylog web上看到输入的日志了：
ok，到此就可以收到日志数据了，在实际工作中，服务日志会非常多，这么多的日志，如果不进行存储限制，那么不久就会占满磁盘，查询变慢等等，而且过久的历史日志对于实际工作中的有效性也会很低，graylog则自身集成了日志数据限制的配置，可以通过如下进行设置：
这里提供了三种方式进行限制，1，限定日志数据量，数据量达到是便会自动删除最旧的历史数据，以维持数据量恒定 2.限定大小，指定数据文件总容量大小 3. 限定时间，删除超时的日志数据。 可根据自己的实际情况进行设置。
9. Graylog进阶使用
上面介绍的都是graylog的基础使用和配置，在配置了之后，已经可以实现对日志的采集，日志的监控报警。下面就简单演示一下如何创建仪表盘，在过程中熟悉一下graylog中的搜索，流，索引，管道，装饰器等等。
在有了日志数据后，在web界面的search中，就可以搜索到日志数据了，如图
途中就是search界面，最上面可以选择时间端，默认是最近5分钟，第二行是搜索的语法，这个语法很简单，最常用的如，搜索level为3的日志，就是 level:3，就这么简单，多条匹配规则可以通过AND，OR(连接词必须大写)进行连接。要搜索包含abc的日志，就直接输入 abc 就行了。整体来说相对于elk要简单很多。具体的完整用法，参考官方文档：搜索
然后我们要定义仪表盘，首先需要创建一个仪表盘，只需要输入标题和说明就行：
创建完仪表盘后你会发现，没发直接在仪表盘中添加部件，也就是添加数据图形等。仪表盘中的部件只能通过在search页面中通过生产徒刑后点击 add to dashboard 来添加到仪表盘中，添加后可以进行修改删除。详细的可以参考官网文档：仪表盘
先看一下我简单添加的仪表盘，
这里演示一下：在search页面中，选择字段，字段下面会有4个选项，可以生产4个不同的图形分析，如图：
其中，最后一个是地图map分析，这个需要额外添加地图信息插件等。这里暂时不说。其他三个都是可以直接出来分析徒刑的。比如我想要知道环境-微服务的总数，因为上面整合springboot的时候，配置中将facility地段自定义为 环境-微服务，如test-device 。所以我直接点击facility下的Statistics，就会生产如下表格：
如图，Cardinality就是环境-微服务不同的数量，也就是接收到日志的环境-微服务总数。点击add to dashboard就能添加到仪表盘，添加之前需要特别注意一点： 时间段，搜索的时间段会影响图形的数据量，添加到仪表盘后会作为默认的时间段来展示数据。当然也可以在添加后，再修改部件属性中修改时间等。
这里就演示这一个部件的添加，其他的可以自行不断尝试，然后有一个需要单独说一下，扩展一下大家思路，比如我想知道时间段内error日志的数量，error日志所属的环境-服务的排序，以此来分析error日志。就需要配合搜索和时间来进行，比如，我们可以搜索1天内，日志界别为ERROR的数据Severity:ERROR ，然后以这些数据生成图形就可以实现了，如：
OK，仪表盘就讲到这里了，下面讲一下Streams(流)，Indices(索引)。
我们知道elasticsearch是以索引来存储数据的，启动graylog后，会自动生产一个默认的索引，索引地段值就为graylog，如下图。上面我们还在其中配置过数据存储限制，可以通过时间，大小，数量来进行存储限制。
为什么要说这个了，就是在实际生产情况中，日志来源并不是单一的，除了java应用服务日志，可能还有nginx访问日志，系统日志等等。这种时候就会产生重要性的问题，比如，生产环境的nginx访问日志，要保存1年。而测试环境的应用服务日志，只需要保存7天就可以了这种不同情况的需求，为了能更好的区分不同类型的日志，我们就可以创建不同的索引，来储存不同类型的日志。比如创建test环境，prod环境的索引来区分环境，创建nginx，web-app等来区分nginx和应用web服务等。如图创建prod环境日志：
索引创建后，需要创建stream(流)来讲收到的日志进行匹配，将匹配的日志存入新的索引。以此来形成区分，系统默认存在all message流来存入default index set中，在创建流的时候，可以定义匹配到的数据，在存入新的索引时，是否删除默认存入的索引数据，以保存数据只存一份，不然会存在多份相同日志数据。创建stream，如图，创建时选择此stream匹配的日志存入的索引。
创建后，配置stream的匹配规则，匹配支持正则表达式，Type中选match regular expression(正则表达式)，如下图。
如图所示，规则之间可以选择是 “且” 还是 “或” 。 就是多条规则是都匹配才成功，还是只需要匹配其中一条就成功。规则添加成功后，点击 i’m done 。然后点击 Start Stream启动Stream就可以了。
这样就可以将日志数据进行分类保存了。好的。进阶的使用先说到这。至于日志Grok数据提取，和管道处理，后面有空再更新
10万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
