Nginx+tomcat+flume搭建过程记录
实验目的
作为日志采集系统的一部分,通过Nginx+tomcat+flume实现负载均衡,Nginx 将日志数据负载均衡到多个 Tomcat 上,Tomcat 服务器通过 log4j 将日志数据写入日志文件中,通过日志数据的落盘实现了业务系统与数据 采集系统的解耦。
随后,双层 Flume 架构中的第一层数据采集 Flume 将对应的 Tomcat 生成的日志文件采 集到其拓扑结构中,随后多个第一层数据采集 Flume 的数据汇总到第二层的数据聚合 Flume上,完成数据的聚合和集中处理。
然后,第二层的数据聚合 Flume 根据日志数据的类型,将日志数据发送到不同的 Kafka主题中,在 Kafka 中完成数据的分布式存储。
搭建环境
ubuntu 18.04
Nginx 1.14.0
tomcat 7.0.72
flume 1.6.0
Nginx搭建
关于在ubuntu搭建Nginx的过程已经在我的这篇文章详细给出
https://blog.csdn.net/x_k_b/article/details/105222649
这里补充一下Nginx启动和关闭的命令
Nginx 开启
sbin/nginx
Nginx 关闭
sbin/nginx -s stop 快速关闭Nginx,可能不保存相关信息,并迅速 终止web服务
sbin/nginx -s quit 安全关闭Nginx,保存相关信息,有安排的结束web服务。
sbin/nginx -s reload 因改变了Nginx相关配置,需要重新加载配置而重载。
sbin/nginx -s reopen 重新打开日志文件。
tomcat搭建
解压安装
tomcat应该是这三个组件里面搭建起来最容易的一个了,只需要将安装包解压到目标目录即可。我这里是解压到/opt/moudles目录下。
cd ~/Downloads #切换到安装包所在目录
tar -zxvf apache-tomcat-7.0.72.tar.gz -C /opt/modules
要实现Nginx负载均衡,就需要多个tomcat,我选择的方法是在同一台虚拟机中装了两个tomcat。所以将解压出来的包再copy一份,并且两个文件夹分别命名为_01和_02。
配置文件
由于一台虚拟机安装了两个tomcat,那就需要修改一下tomcat的配置文件以防端口冲突问题。
编辑tomcat目录下的conf/server.xml
把这些端口号都改一改,只要两个tomcat的端口号不相同,不与其他在用的端口号冲突即可,为了简单,我把第一个tomcat的端口号前面都加上1,第二个tomcat端口号前面都加上2。保存退出。