- 博客(11)
- 资源 (34)
- 收藏
- 关注
原创 apache Kafka下线broker的操作
下线broker背景:主动下线是指broker运行正常,因为机器需要运维(升级操作系统,添加磁盘等)而主动停止broker分两种情况处理:所有的topic的replica >= 2 此时,直接停止一个broker,会自动触发leader election操作,不过目前leader election是逐个partition进行,等待所有partition完成lea
2014-12-30 15:01:10 7889
原创 kafka broker shutdown过程分析
kafka broker shutdown过程分析controlled shutdown通过给controller发送命令实现停止指定broker实现方式很诡异,controller并没有提供任何socket或者http方式开放接口,而是提供了一个 jmx bean,命令行工具通过jmx revoke方式调用controller中提供的接口shutdownBroker
2014-12-30 14:45:09 7055
原创 apache Kafka是如何实现删除数据文件(日志)的
Kafka删除数据有两种方式,一种是按照时间,超过一段时间后删除过期消息,第二种是按照消息大小删除数据的,消息数量超过一定大小后删除最旧的数据但是Kafka的数据是存储在文件系统内的,随机删除数据是不可能的,那么,Kafka是如何删除数据的呢?Kafka删除数据主逻辑对应配置: log.cleanup.interval.mins当前使用值:1file: core/src/ma
2014-12-30 14:38:55 14466
原创 kafka server部署配置优化
具体请参考:apache kafka中server.properties配置文件参数说明配置优化都是修改server.properties文件中参数值1.网络和io操作线程配置优化# broker处理消息的最大线程数num.network.threads=xxx# broker处理磁盘IO的线程数num.io.threads=xxx建议配置:一般nu
2014-12-26 23:44:58 11101 2
原创 linux后端诊断与调试技术
本文不是liunx命令使用教程,也不打算全方面阐明其用法,互联网公司项目很多,服务程序之间相互依赖调用很复杂,各种因素会影响线程服务正常运行,特别是基础服务组件更是如此,当出现各种问题时,如何诊断linux下哪个环节出现问题或状况。从linux系统层面看,通过各种操作命令和手段快速定位线上程序的症状和要害很有必要。比如说:当线上服务长时间正常运行,张三某天突然监控到自己的程序出问题了,自己负责某个程序不提供服务或服务处于挂死(进程还在,但无法接收外部响应)状态,查看应用程序日志没发现明显错误或可提示信息(看
2014-12-26 22:58:39 3704 1
原创 maven忽略单元测试中的错误继续构建工程
1.修改pom.xml文件,增加如下内容: [...] org.apache.maven.plugins maven-surefire-plugin true [...]2.命令行操作mvn test
2014-12-08 17:22:10 1379
原创 maven中跳过单元测试
1.修改pom.xml增加如下内容:project> [...] build> plugins> plugin> groupId>org.apache.maven.plugins/groupId> artifactId>maven-surefire-plugin/artifactId> configura
2014-12-08 17:19:50 992
原创 Kafka集群partitions/replicas默认分配解析
1. kafka集群副本分布原理分析下面以一个kafka集群中4个broker举例,1个topic分成4个partition,2 replication;数据producer流动如图所示:每个broker都有均等获得partition的leader机会。上述图broker partition中,箭头指向为副本,以partition-0为例:broker1中parition-
2014-12-06 20:19:54 47321 12
原创 kafka运行环境优化分析
1.kafka高性能的特点及条件kafka是一个高吞吐量分布式消息系统,并且提供了持久化。其高性能的有两个重要特点:(1)利用了磁盘连续读写性能远远高于随机读写的特点;(2)并发,将一个topic拆分多个partition。要充分发挥kafka的性能,就需要满足这两个条件。linkedin的测试,就把这两个方面发挥到极致(参考http://engineering.linkedin.co
2014-12-06 19:08:51 10008 4
PV3D是一个很著名的Flash 3D免费开源引擎
2008-07-06
计算机图形学实验(源程序)
2008-06-09
flex+java文件上传
2008-05-14
CORBA分布式资源池
2007-11-06
在windows中jni(生成dll)Linux中jni(生成so),java调用曾c++
2007-11-02
flex对于java开发包
2007-08-22
kafka & mafka client开发与实践
2014-08-08
kafka-perf_2.x.x-0.8.1.jar
2014-07-15
adobe flex编码指南v1.2
2008-07-06
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人