Twitter Storm
luyee2010
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Twitter Storm
在这个教程里面我们将学习如何创建Topologies, 并且把topologies部署到storm的集群里面去。Java将是我们主要的示范语言, 个别例子会使用python以演示storm的多语言特性。准备工作这个教程使用storm-starter项目里面的例子。我推荐你们下载这个项目的代码并且跟着教程一起做。先读一下:配置storm开发环境和新建一个strom项目这两篇文章把你的机器设置转载 2013-02-21 19:49:10 · 962 阅读 · 0 评论 -
Storm Found multiple defaults.yaml resources
运行storm-kafka应用程序的的时候报了这个错这个想了下,肿么会有多个呢,后面觉得应该是在应用的jar包里面也把storm的defaultsyarm打进去了。找了下只看到 storm storm 0.9.0原创 2014-01-18 17:55:15 · 12392 阅读 · 0 评论 -
Flume-Kafka-Storm 整合实例
启动Topology作为Kafka的comsumerbin/storm jar storm-kafka-App-0.1.0-SNAPSHOT-jar-with-dependencies.jar com.exec.storm.kafka.KafKaSpoutTopologyTest 192.168.137.10:2181启动flume-kafka的producerbin/flume原创 2014-01-24 15:39:24 · 10225 阅读 · 9 评论 -
storm实战 A Real-life EXample
1,install zeromq期间可能出现:configure: error: cannot link with -luuid, install uuid-dev. 因此可以先安装sudo apt-get install uuid*sudo apt-get install libtoolwget http://download.zeromq.org/zeromq-2.2.0.t原创 2013-12-02 09:35:39 · 3459 阅读 · 0 评论 -
Storm数据流模型的分析及讨论
http://www.cnblogs.com/panfeng412/archive/2012/07/29/storm-stream-model-analysis-and-discussion.html本文首先介绍了Storm的基本概念和数据流模型,然后结合一个典型应用场景来说明Storm支持Topology之间数据流订阅的必要性,最后对比了Storm与另一个流处理系统在数据流模型上的区别之转载 2013-03-01 03:07:23 · 933 阅读 · 0 评论 -
Storm常见模式——分布式RPC
http://www.cnblogs.com/panfeng412/archive/2012/07/02/storm-common-patterns-of-distributed-rpc.html本文翻译自:https://github.com/nathanmarz/storm/wiki/Distributed-RPC,作为学习Storm DRPC的资料,转载必须以超链接形式标明文转载 2013-03-01 03:05:41 · 1053 阅读 · 0 评论 -
Storm常见模式——TimeCacheMap
http://www.cnblogs.com/panfeng412/archive/2012/06/26/storm-common-patterns-of-timecachemap.htmlStorm中使用一种叫做TimeCacheMap的数据结构,用于在内存中保存近期活跃的对象,它的实现非常地高效,而且可以自动删除过期不再活跃的对象。TimeCacheMap使用多个桶bucket转载 2013-03-01 03:04:48 · 952 阅读 · 0 评论 -
Storm常见模式——BasicBolt
http://www.cnblogs.com/panfeng412/archive/2012/06/19/storm-common-patterns-of-basicbolt.htmlStorm中的很多Bolt都有一个最常见的处理步骤:读入一个tuple;根据这个输入tuple,提取后发射0个,1个或多个tuple;最后,通过ack操作确认这个tuple被成功处理。按照上述处理步骤转载 2013-03-01 03:03:34 · 897 阅读 · 0 评论 -
Storm常见模式——批处理
Storm对流数据进行实时处理时,一种常见场景是批量一起处理一定数量的tuple元组,而不是每接收一个tuple就立刻处理一个tuple,这样可能是性能的考虑,或者是具体业务的需要。例如,批量查询或者更新数据库,如果每一条tuple生成一条sql执行一次数据库操作,数据量大的时候,效率会比批量处理的低很多,影响系统吞吐量。当然,如果要使用Storm的可靠数据处理机制的话,应该使用容器将这些转载 2013-03-01 03:02:46 · 1015 阅读 · 0 评论 -
Storm常见模式——求TOP N
http://www.cnblogs.com/panfeng412/archive/2012/06/16/storm-common-patterns-of-streaming-top-n.htmlStorm的另一种常见模式是对流式数据进行所谓“streaming top N”的计算,它的特点是持续的在内存中按照某个统计指标(如出现次数)计算TOP N,然后每隔一定时间间隔输出实时计算后的T转载 2013-03-01 03:01:59 · 1928 阅读 · 0 评论 -
开源实时流处理系统小结
网址: http://www.cnblogs.com/panfeng412/archive/2013/02/21/open-source-real-time-stream-processing-systems.html这里对目前业界开源的一些实时流处理系统做一次小结,作为日后进行技术调研的参考资料。S4S4(Simple Scalable Streaming System)是Yah转载 2013-03-01 03:01:01 · 1158 阅读 · 0 评论 -
使用 Twitter Storm 处理实时的大数据
Hadoop(大数据分析领域无可争辩的王者)专注于批处理。这种模型对许多情形(比如为网页建立索引)已经足够,但还存在其他一些使用模型,它们需要来自高度动态的来源的实时信息。为了解决这个问题,就得借助 Nathan Marz 推出的 Storm(现在在 Twitter 中称为 BackType)。Storm 不处理静态数据,但它处理预计会连续的流数据。考虑到 Twitter 用户每天生成 1.4 亿转载 2013-02-21 20:00:21 · 1620 阅读 · 0 评论 -
Log Processing With Storm
Learning storm book 笔记8有代码的书籍看起来就是爽,看完顺便跑个demo,感觉很爽!场景分析主要是利用apache的访问日志来进行分析统计 如用户的IP来源,来自哪个国家或地区,用户使用的Os,浏览器等信息,以及像搜索的热词等信息的统计 这里日志信息如下24.25.135.19 - - [1-01-2011:06:20:31 -0500] "GET原创 2014-12-11 01:59:43 · 4219 阅读 · 0 评论
分享