VMware中Ubuntu14.04下Spark虚拟集群安装运行步骤简述

本文详细介绍了如何在VMware中使用Ubuntu 14.04创建一个Spark虚拟集群。步骤包括创建虚拟机、安装JDK、SSH、Hadoop、Scala和Spark,配置网络和主机名,以及解决网络问题。最后通过Eclipse Scala IDE进行本地和集群模式的Spark应用运行。
摘要由CSDN通过智能技术生成

安装过程简述


1.     创建一个虚拟机master,安装Ubuntu14.04(设置为NAT网络)。

2.     安装JDK1.8(jdk1.8.0_25)。

3.     安装SSH免密码登录。

4.     安装hadoop-1.2.1。

5.     安装scala-2.10.4。

6.     安装spark-1.0.1-bin-hadoop1。

7.     克隆虚拟机slave1。

8.     一定要记得把hadoop三个配置文件xml里的localhost改成master!要在http://master:50070里看到1个live nodes和http://master:8080里看到1个worker。

9.     设置网络连接,可以采用NAT方式。IP地址、子网掩码、网关IP(可在VMware的编辑网络的Vnet8里查看)。

10.  在master中,设置/etc/hostname为master,/etc/hosts为192.168.150.200 master,192.168.150.201 slave1。

11.  在slave1中,设置/etc/hostname为slave1,/etc/hosts为192.168.150.200 master,192.168.150.201 slave1。

12.  在master中,Ping一下slave1,初次SSH登录,ssh master,ssh slave1。

13.  重启2台虚拟机,可能会出现网络设备未托管的问题,sudo /etc/NetworkManager/NetworkManager.conf,将managed=false改

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值