- 博客(4)
- 资源 (2)
- 收藏
- 关注
原创 flume配置-生产环境下从文件目录下将日志上传到s3
生产环境下将收集到的日志上传至s3,采用多个spoolDir soure 和多个hdfs sink的方式是为了提高读取数据,上传数据的吞吐量。 clog.sources = source_log1 source_log2 clog.channels = channel_log clog.sinks = sink_log1 sink_log2 sink_log3 sink_log4 si
2016-12-28 10:57:04 3653
原创 Redis 单机性能测试
由于生产环境下业务服务器总响应延迟需要控制在100ms内,为了尽量减少日志输出环节的耗时,考虑将日志吐到redis中缓存,由其他程序异步的从redis中取数据。在生产环境改造日志数据系统之前,对单机的redis读写性能做了测试。 1. 测试环境和测试工具 CPU:8核 内存:8G Redis版本:3.2.6 测试工具:redis官方基准测试工具 redis-benchmark
2016-12-20 12:33:06 16066 1
原创 kafka运维--增加topic备份因子
上篇文章将了怎样优化kafka配置,其中提到了kafka集群topic的默认备份因子参数default.replication.factor。 如果想针对某一个或者多个topic,增加备份因子参照下面步骤进行。 1. 创建一个需要增加备份因子的topic列表的文件,文件格式是json格式的(跟【kafka运维--集群扩容后手动Rebalance topic】文章中rebalan
2016-12-20 12:09:31 4791 1
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人