虚拟机上搭建storm集群详细教程

本文详细介绍了如何在虚拟机上使用vmware+ubuntu搭建storm集群。首先准备三台机器并安装ubuntu,接着安装配置jdk,设置ssh服务。然后安装zookeeper,配置包括dataDir、server.x设置及myid文件。最后安装storm,修改storm.yaml配置并启动nimbus、supervisor服务,完成集群搭建,通过8080端口访问UI界面。
摘要由CSDN通过智能技术生成

vmware+ubuntu+storm集群搭建

前言

Storm是一个分布式的、高容错的实时计算系统。
Storm对于实时计算的的意义相当于Hadoop对于批处理的意义。Hadoop为我们提供了Map和Reduce原理,使我们对数据进行批处理变的非常的简单和优美。同样,Storm也对数据的实时计算提供了简单Spout和Bolt原理。
Storm适用的场景:
1、流数据处理:Storm可以用来用来处理源源不断的消息,并将处理之后的结果保存到持久化介质中。
2、分布式RPC:由于Storm的处理组件都是分布式的,而且处理延迟都极低,所以可以Storm可以做为一个通用的分布式RPC框架来使用。
对于想学习storm流式计算的,我们先从搭建storm集群开始。对于新手,当然是先在虚拟机上搭建练练手,所以我就把搭建过程简单的记录一下。

一、机器准备

我准备了三台机器,首先在vmware安装ubuntu系统,得到第一台机器,然后通过虚拟机的克隆功能,得到另外两台。虚拟机安装ubuntu可参考下面的教程:虚拟机VMware+Ubuntu系统的安装教程
所以我的三台机器为:

master:192.168.229.128
slave1:192.168.229.129
slave2:192.168.229.130

配置之前,我先在home目录下建了一个文件夹spark(本来要搭建spark的,先搭建storm),后面下载和安装的文件都放在spark目录下。

二、安装jdk

1、去oracle官网下载,链接点此。下载后放到/home/spark/目录下,也可以通过终端进入该目录,在终端输入下面命令下载压缩包。

wget http://download.oracle.com/otn-pub/java/jdk/8u111-b14/jdk-8u111-linux-x64.tar.gz

2、解压jdk压缩包

tar -zxvf jdk-8u111-linux-x64.tar.gz

3、设置环境变量,sudo vi /etc/profile

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值