Spark伪分布式安装(不依赖hadoop)

上传包:

百度分享安装包地址:http://pan.baidu.com/s/1dD4BcGT 点击打开链接

解压 并重命名:

 


进入spark100目录:

修改配置:

 

Cd conf

配置单击节点,故只需要写本机的hostname就可以了。



重命名spark-env.sh.template 为 spark-env.sh

增加配置项:

export SPARK_MASTER_IP=icity1
export SPARK_MASTER_PORT=7077
export SPARK_WORKER_CORES=1
export SPARK_WORKER_INSTANCES=1
export SPARK_WORKER_MEMORY=1g

如图所示:




 

 

 


启动:

 

出错:

 

。bash_profile中有配置java_home:

 

感觉其没有自动引用到,故

最后通过在spark_env.sh中增加


解决了错误。

 重新启动:


 

 

监控页面效果:

 

 

 

进入spark-shell:

 

 


 

 

选用了外部文件:



区别于hdfs的读取方式:

 

 



 

退出spark-shell:exit

 

  • 1
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值