flume高并发优化——(3)haproxy

在应对Flume file channel性能瓶颈时,通过引入Haproxy作为前端分发器进行优化。使用Haproxy的TCP中转处理Avro协议,减轻了前端压力,为解决Kafka到ES的Flume性能问题铺平道路。详细介绍了Haproxy的安装、配置和启动过程。
摘要由CSDN通过智能技术生成

        在上篇博客中,我们虽然进行了较大的改动,但是,没有料到的是,flume的file性能瓶颈会如此快的到来,由于我们使用了一个filechannel作为负载均衡的通道,导致性能瓶颈很快到来,为了应对这样的瓶颈,我们对结构进行了第三次升级,替换了负载均衡的前端,换为性能更好的haproxy作为分发端,大家一起来看看是如何优化的。

        还是老样子,大家看看上次优化过之后的结构:



        我们将avro端口的12300接收的数据,不再通过flume分发,换为haproxy,大家看看优化完之后的结构:


        由于是avro协议,我们采用第四层改的tcp中转进行分发,haproxy的安装及配置如下:

1,安装

下载tar包:

评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值