自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(5)
  • 资源 (10)
  • 收藏
  • 关注

原创 基于NIO的长连接的实现已开放到github

长连接相对于短链接来讲,可以减少连接的建立和释放的开销,进而提高通信的效率,而长连接最大的问题是对于连接池中连接的维护。

2014-01-20 00:19:04 15945 2

原创 Yarn设计原理分析之NodeManager

1、  和其他模块之间的交互接口分析1)作为client,NodeStatusUpdater通过ResourceTracker协议和RM进行交互(NMàRM)。该API有两个方法向RM注册NodeManager,参数为httpPort、nodeId、totalResource,其中totalResource为节点的总可分配资源,包括CPU、内存。向RM心跳,NM启动后通过定期的向RM汇报Conta

2014-01-08 20:58:51 8555

原创 滑动窗口在storm中的实现

滑动窗口监控和统计应用的场景比较广泛,比如每隔一段时间(10s)统计最近30s的请求量或者异常次数,根据请求或者异常次数采取相应措施;这里说一下滑动窗口在storm中实现的原理。参见下图:窗口大小为30s,每10s就统计一次,那么窗口一共有3个slot,可以对窗口建立长度为3的数组;在storm的blot中在10s内通过execute(tuple)功能不停的把接收的tuple进行count个数(假

2014-01-04 22:07:56 16544 3

原创 Storm在批处理和事务方面的机制分析

1、storm事务性topology的提出对于容错机制,Storm通过一个系统级别的组件acker,结合xor校验机制判断一个msg是否发送成功,进而spout可以重发该msg,保证一个msg在出错的情况下至少被重发一次。但是在一些事务性要求比较高的场景中,需要保障一次只有一次的语义,比如需要精确统计tuple的数量等等。Storm 0.7.0引入了Transactional Topology,

2014-01-04 17:06:41 14438 1

原创 流式计算在容错方面的考虑

stream replayLineage trackingState Checkpointing

2014-01-04 06:27:17 3501

基于用户画像的大数据实践

用户画像的实际经验、推荐系统、大数据相关的资料 用户画像的实际经验、推荐系统、大数据相关的资料

2018-05-22

大数据平台及推荐的应用

大数据平台 hadoop spark storm 用户画像体系 推荐 广告

2015-09-04

互联网架构设计

空间换时间 数据与计算切分 多维度可用 伸缩 优化资源利用

2015-09-04

互联网架构设计理念漫谈

高并发高可用的可伸缩的架构设计的原则 空间换时间 数据与计算 多维度可用 伸缩 优化资源利用

2013-12-17

HBase分页查询的rowkey设计技巧

用户历史订单列表查询rowkey设计技巧 最左前缀原则

2013-09-20

HBase 培训ppt

HBase 架构原理,从Nosql的提出,CAP 基于列式的高效存储 强一致的数据访问 高可靠 高性能 可伸缩,自动切分,迁移 Schema free

2013-03-31

linux util包

linux的一些工具包,包括uuid-dev luuid 等

2013-01-05

TCP.IP.Sockets.in.Java.2nd.Edition

描述Socket的通讯机制,nio机制 Socket就是TCP/IP协议的一种实现.它封装了TCP/IP协议并提供了一组基于该协议的操作方法

2010-04-21

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除