浅谈Kafka和flume的区别

浅谈Kafka和flume的应用场景

kafka

kafka主要应用于消息队列,就是将数据分发给各个消费者

flume

flume主要还是一个信息的收集,然后再将这些信息存储到数据库中

区别

这两个完全是两个概念,区别也是很大,只是这样个人记得较为清楚。两个组件都有推送操作,只不过kafka是pull,而flume是push。

pull就是消费者通过客户端向服务器请求,如果有数据就会进行通信,这样有个好处就是不会阻塞。数据是存储在磁盘中的。

push就是flume将采集过来的数据推送到目的地址HDFS中,不过flume有制定缓存机制来应对阻塞。数据是存储在内存中的。

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
KafkaFlume是两种常用的数据传输工具。它们有一些共同点和区别。 共同点是它们都可以用于数据采集和传输。它们都支持多个生产者的场景,可以从多个数据源获取数据。同时,它们都可以提供高吞吐量的数据传输能力。 Flume追求的是数据和数据源、数据流向的多样性。它有自己内置的多种source和sink组件,可以通过编写配置文件来定义数据的来源和目的地。Flume的配置文件中包含source、channel和sink的信息,通过启动Flume组件时关联配置文件来实现数据传输。 Kafka追求的是高吞吐量和高负载。它支持在同一个topic下拥有多个分区,适合多个消费者的场景。不同于FlumeKafka没有内置的producer和consumer组件,需要用户自己编写代码来进行数据的发送和接收。 总的来说,Flume更适合于多个生产者的场景,而Kafka更适合于高吞吐量和高负载的场景,并且需要用户自己编写代码来操作数据的发送和接收。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *3* [FlumeKafka区别与联系](https://blog.csdn.net/wx1528159409/article/details/88257693)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *2* [大数据之Kafka(三):KafkaFlume的整合及架构之道](https://blog.csdn.net/weixin_44291548/article/details/119839752)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值