storm实战 A Real-life EXample

原创 2013年12月02日 09:35:39

1,install zeromq

期间可能出现:configure: error: cannot link with -luuid, install uuid-dev. 因此可以先安装

sudo apt-get install uuid*
sudo apt-get install libtool
wget http://download.zeromq.org/zeromq-2.2.0.tar.gz
tar zxf zeromq-2.2.0.tar.gz 
cd zeromq-2.2.0
./configure

2, install git

git-1.8.3.tar.gz
tar zxvf git-1.8.3.tar.gz
cd git-1.8.3
make && sudo make install

3,install jzmq

git clone git://github.com/nathanmarz/jzmq.git
./autogen.sh
./configure
make && sudo make install

4, install storm

4.1,download zip unzip

wget http://cloud.github.com/downloads/nathanmarz/storm/storm-0.8.1.zip
unzip storm-0.8.1.zip
cd storm-0.8.1

4.2,配置Storm变量

vim /etc/profile
   #    storm 
export STORM_HOME=/home/hadoop/bigdata/storm-0.8.1/
export PATH=$PATH:$STORM_HOME/bin
. /etc/profile

4.3,storm的配置:storm.yaml

关于这个配置文件实在的有点蛋疼,居然空格都包含在内,如果你在":"号后面没有空格那就 蛋疼了,不断折腾之后,这个勉强可以配置好了。

storm.zookeeper.servers: 
     - "127.0.0.1"
storm.zookeeper.port: 2182
nimbus.host: "127.0.0.1"
storm.local.dir: "/home/hadoop/bigdata/storm-0.8.1/data/stor_mdir"
supervisor.slots.ports:
  - 6700
  - 6701
  - 6702
  - 6703

ui.port: 10010

5,storm-starter

svn co https://github.com/nathanmarz/storm-starter/trunk storm-starter
cd storm-starter
mvn -f m2-pom.xml package
cp m2-pom.xml pom.xml

5.1,需要对pom文件的依赖做相应修改,注释掉:

<!--
<repository>
    <id>twitter4j</id>
    <url>http://twitter4j.org/maven2</url>
</repository>
-->

并将

<dependency>
    <groupId>org.twitter4j</groupId>
    <artifactId>twitter4j-core</artifactId>
    <version>2.2.6-SNAPSHOT</version>
</dependency>
<dependency>
    <groupId>org.twitter4j</groupId>
    <artifactId>twitter4j-stream</artifactId>
    <version>2.2.6-SNAPSHOT</version>
</dependency>

改为

<dependency>
    <groupId>org.twitter4j</groupId>
    <artifactId>twitter4j-core</artifactId>
    <version>2.2.6</version>
</dependency>
<dependency>
    <groupId>org.twitter4j</groupId>
    <artifactId>twitter4j-stream</artifactId>
    <version>2.2.6</version>
</dependency>

也可以参考参考网上的,改为

<dependency>
    <groupId>org.twitter4j</groupId>
    <artifactId>twitter4j-core</artifactId>
    <version>[2.2,)</version>
</dependency>
<dependency>
    <groupId>org.twitter4j</groupId>
    <artifactId>twitter4j-stream</artifactId>
    <version>[2.2,)</version>
</dependency>

原因是:作者使用的是twitter的库,注释掉后不存在2.2.6.snapshot版本的相应依赖。

5.2,编译storm-starter:

mvn -f m2-pom.xml package

如果是生成eclipse工程:

cp m2-pom.xml pom.xml
mvn eclipse:eclipse

6,NodeJs+express环境

wget http://nodejs.org/dist/v0.10.22/node-v0.10.22-linux-x64.tar.gz
tar zxvf node-v0.10.22-linux-x64.tar.gz
cd node-v0.10.22/
export NODE_HOME=/usr/local/node-v0.10.22-linux-x64
export PATH=$PATH:$NODE_HOME/bin
export NODE_PATH=$NODE_HOME/lib/node_modules
. /etc/profile(source )
#express
npm install -g express(sudo su - 必须root??)

7,A Real-life Example install

7.1 install Redis

./redis-server ../redis.conf

7.2 打包

svn co https://github.com/storm-book/examples-ch06-real-life-app/trunk 
cd trunk/
mvn package

7.3 启动应用

java -jar target/storm-analytics-0.0.1-jar-with-dependencies.jar 
node webapp/app.js

7.4 测试功能

相关文章推荐

storm-example笔记

storm-example

storm入门--storm的第一个示例

本文介绍在eclipse下开发storm的第一个示例。本文的示例基于storm提供的example中的ExclamationTopology.文使用的storm版本为storm-1.0.2。本文将在e...
  • cjf_wei
  • cjf_wei
  • 2017年05月21日 10:39
  • 619

Storm安装配置及Real-Life实例

最近找工作看到很多大数据处理的基本都是要求Hadoop、MapReduce之类的,其中如果有熟悉Storm、Spark的会有加分。Storm、Spark属于大数据实时处理的框架,MapReduce是属...

life is like a storm1

  • 2011年04月15日 17:46
  • 623KB
  • 下载

life is like a storm2

  • 2011年04月15日 17:46
  • 285KB
  • 下载

LightOJ - 1291 Real Life Traffic (tarjan算法求强连通分量)

该题意为问你最小让加几条边使得删除任何一条边所有的顶点任然连通。 如果是不含环的图,使得所有的顶点度大于或等于2删除任何一条边其他的顶点任然连通,那么该题即转化为求连通分量的问题, 求出连通分量之...

life is like a storm3

  • 2011年04月15日 17:51
  • 17.05MB
  • 下载

Performance Comparison Studies With Real-Life Scenarios in an Experimental Data Taking Context Lever

https://indico.cern.ch/event/304944/session/3/contribution/402/attachments/578582/796733/CHEP2015_Sw...

How do you discover your real purpose in life?

原文地址:http://www.stevepavlina.com/blog/2005/01/how-to-discover-your-life-purpose-in-about-20-minutes/...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:storm实战 A Real-life EXample
举报原因:
原因补充:

(最多只允许输入30个字)