- 博客(10)
- 收藏
- 关注
转载 ZooKeeper 典型应用场景一览
数据发布与订阅(配置中心)发布与订阅模型,即所谓的配置中心,顾名思义就是发布者将数据发布到ZK节点上,供订阅者动态获取数据,实现配置信息的集中式管理和动态更新。例如全局的配置信息,服务式服务框架的服务地址列表等就非常适合使用。1. 应用中用到的一些配置信息放到ZK上进行集中管理。这类场景通常是这样:应用在启动的时候会主动来获取一次配置,同时,在节点上注册一个Watcher,这样一来
2016-04-21 20:23:10
311
转载 Saiku+Kylin多维分析平台探索
背景 为了应对各种数据需求,通常,我们的做法是这样的: 对于临时性的数据需求:写HQL到Hive里去查一遍,然后将结果转为excel发送给需求人员。 对于周期性的、长期性的数据需求:编写脚本,结合Hive跑出结果,将结果写入对应DB库,然后开发前端页面对结果进行展现。 这样做简洁明了,但是,有很明显的问题: 开发成本太高。每来一个需求,不管是临时需
2016-04-21 10:11:53
2977
1
原创 集群调度参考
--elastic-job --当当网开源,quartz+zookeeper,大规模集群推荐 --quartz --依赖数据库锁,没有job、task区分,小规模集群可以采用 --tbschedule
2016-04-15 11:08:32
327
原创 大规模定向抓取系统
--设计:通用爬虫+爬取规则 --配置式定义爬取规则 -鼠标选取式定义数据结构 -分页 -参数 -认证 -动态ip -验证码 -https --分布式爬虫运行平台 -调度-定时、暂停、继续、停止-job、task -队列 -去重-bloomfilter -网页存储-异步
2016-04-15 10:54:17
407
原创 布隆过滤器bloom filter
java布隆过滤器bloom filter实现:单机:google guava bloom filter分布式:redisson bloom filter
2016-04-15 10:39:03
813
自己编写的struts2+spring+springJdbc框架---设计思路
=============================== 框架 ==================================◆技术框架 目标: 搭建 Struts2+Spring+SpringJDBC 框架 任务: 一、规范 1.命名规则: ...
2009-02-23 14:34:21
134
自己编写的struts2+spring+springJdbc框架---设计思路
=============================== 框架 ==================================◆技术框架 目标: 搭建 Struts2+Spring+SpringJDBC 框架 任务: 一、规范 1.命名规则:...
2009-02-23 14:15:19
146
走出软件作坊:三五个人十来条枪 如何成为开发正规军-CHM版
把 吕建伟 的 系列 文章整理成 chm文档 格式 ,共 收录 39篇.篇篇经典,值得收藏,在此 推荐给大家,欢迎下载:)
2008-07-25 00:27:41
203
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人