
kafka
gb4215287
这个作者很懒,什么都没留下…
展开
-
kafka启动报错Java HotSpot<TM> 64-bit Server VM warning:INFO: os::commit_memory
版权声明:版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/qq_39501726/article/details/81938695kafka启动报错:Java HotSpot<TM> 64-bit SererVM warning:INFO: os::commit_memory<0x00000000c0000000,1073...转载 2018-11-07 16:12:54 · 909 阅读 · 0 评论 -
为什么kafka使用磁盘而不是内存
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/wl6965307/article/details/51392905Kafka最核心的思想是使用磁盘,而不是使用内存,可能所有人都会认为,内存的速度一定比磁盘快,我也不例外。在看了Kafka的设计思想,查阅了相应资料再加上自己的测试后,发现磁盘的顺序读写速度和内存持平。而且Linux对于磁...转载 2018-11-08 15:56:48 · 545 阅读 · 1 评论 -
kafka解决了什么问题?
请高手指明一下kafka解决了什么问题,什么场景下使用?消息订阅和发布吗,好像redis也支持,功能是否有重叠?作者:张琪链接:https://www.zhihu.com/question/53331259/answer/139862117来源:知乎著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。 假设你意气风发,要开发新一代的互联网应用,以期在互联网事业中一展...转载 2018-11-08 14:51:37 · 2612 阅读 · 0 评论 -
kafka(一)-为什么使用kafka
我们知道kafka是消息队列的一种,我们要先知道为什么我们需要消息队列,什么场景下我们选择kafka。1.为什么要用消息队列解耦在项目启动之初来预测将来项目会碰到什么需求,是极其困难的。消息系统在处理过程中间插入了一个隐含的、基于数据的接口层,两边的处理过程都要实现这一接口。这允许你独立的扩展或修改两边的处理过程,只要确保它们遵守同样的接口约束。冗余有些情况下,处理数据的过程会失败。除...转载 2018-11-08 14:48:00 · 557 阅读 · 0 评论 -
redis和kafka比较
redis 消息推送(基于分布式 pub/sub)多用于实时性较高的消息推送,并不保证可靠。其他的mq和kafka保证可靠但有一些延迟(非实时系统没有保证延迟)。redis-pub/sub断电就清空,而使用redis-list作为消息推送虽然有持久化,但是又太弱智,也并非完全可靠不会丢。另外一点,redis 发布订阅除了表示不同的 topic 外,并不支持分组,比如kafka中发布一个东西,...转载 2018-11-08 14:45:38 · 2767 阅读 · 0 评论 -
redis和kafka读取代码
kafka读取代码如下所示:<?php$conf = new RdKafka\Conf();//设置消费组$conf->set('group.id', 'myConsumerGroup');$rk = new RdKafka\Consumer($conf);$rk->addBrokers("127.0.0.1");$topicConf = new RdKafk...转载 2018-11-08 14:29:13 · 367 阅读 · 0 评论 -
使用PHP处理Kafka消息
Kafka 是一种高吞吐的分布式消息系统,能够替代传统的消息队列用于解耦合数据处理,缓存未处理消息等,同时具有更高的吞吐率,支持分区、多副本、冗余,因此被广泛用于大规模消息数据处理应用。Kafka的特点:以时间复杂度为O(1)的方式提供消息持久化能力,即使对TB级以上数据也能保证常数时间复杂度的访问性能。 高吞吐率。即使在非常廉价的商用机器上也能做到单机支持每秒100K条以上消息的传...转载 2018-11-08 11:31:55 · 3210 阅读 · 0 评论 -
kafka删除主题数据和删除主题
版权声明:本文为博主原创文章,转载注明出处。 https://blog.csdn.net/forrest_ou/article/details/78999983kafka使用confluent-3.1.2 删除的主题名:test1、删除主题在server.properties中增加设置,默认未开启delete.topic.enable=true删除主题命令/bin/k...转载 2018-11-08 11:28:33 · 5590 阅读 · 0 评论 -
redis和kafka的写性能对比
kafka插入代码如下所示:<?php$conf = new RdKafka\Conf();$rk = new RdKafka\Producer($conf);$rk->setLogLevel(LOG_DEBUG);$rk->addBrokers("127.0.0.1");$cf = new RdKafka\TopicConf();// -1必须等所有brok...原创 2018-11-08 10:52:19 · 4497 阅读 · 1 评论 -
redis、kafka、rabittMQ对比
更多博客请访问本人博客本文不对三者之间的性能进行对比,只是从三者的特性上区分他们,并指出三者的不用应用场景。1、publish/subscribe发布订阅模式如下图所示可以具有多个生产者和发布者,redis、kafka、rebittMQ都满足这样的要求。但是三者有各自的特色。1.1 redisredis的特征就是快,由于其数据是存储在内存中的,处理速度相对另外两者快了不少。通过...转载 2018-11-07 19:01:52 · 327 阅读 · 0 评论 -
kafka安装及Kafka-PHP扩展的使用
实话说,如果用于队列的话,跟PHP比较配的,还是Redis。用的顺手,呵呵,只是Redis不能有多个consumer。但Kafka官方对PHP不支持,PHP扩展是爱好者或使用者写的。下面就开始讲Kafka的安装吧。我以CentOS6.4为例,64位。一. 首先确认下jdk有没有安装使用命令[root@localhost ~]# java -versionjava version "...转载 2018-11-07 17:51:45 · 1107 阅读 · 0 评论 -
PHP下kafka的实践(已经测试)
kafka简介Kafka 是一种高吞吐量的分布式发布订阅消息系统kafka角色必知producer:生产者。consumer:消费者。topic: 消息以topic为类别记录,Kafka将消息种子(Feed)分类, 每一类的消息称之为一个主题(Topic)。broker:以集群的方式运行,可以由一个或多个服务组成,每个服务叫做一个broker;消费者可以订阅一个或多个主题...转载 2018-11-07 17:44:16 · 2134 阅读 · 0 评论 -
php7安装kafka扩展(已经测试)
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/zsl10/article/details/78743335一、安装librdkafka# cd /usr/local/src/# git clone https://github.com/edenhill/librdkafka.git# cd librdkafka# ./configur...转载 2018-11-07 17:34:35 · 1192 阅读 · 0 评论 -
面试问:Kafka为什么速度那么快?
本文作者:邴越,阿里资深工程师,专注研究分布式系统及高可用架构,互联网开发核心技术Kafka的消息是保存或缓存在磁盘上的,一般认为在磁盘上读写数据是会降低性能的,因为寻址会比较消耗时间,但是实际上,Kafka的特性之一就是高吞吐率。即使是普通的服务器,Kafka也可以轻松支持每秒百万级的写入请求,超过了大部分的消息中间件,这种特性也使得Kafka在日志处理等海量数据场景广泛应...转载 2019-06-04 11:31:39 · 157 阅读 · 0 评论