Eclipse中写Spark代码

环境设置与运行

(1)将Spark中的Jar包加到Eclipse 的Build Path中:
1.3版本如下图,只需要加载5个jar,2.0版本需要加载更多jar
这里写图片描述
(2)编写代码,Export为jar包,注意要选择main函数:
这里写图片描述
(3)使用spark-submit 命令运行:
./spark-submit /home/hadoop/spark/mycode/MydirstJob.jar
(4)也可以直接在Eclipse中运行
(5)使用spark-submit 命令时,可能会遇到权限问题,两个原因:
目前账户无权限,文件读写权限设置不对(只读了)

Spark Java代码编写

Spark版本2.0
正则化

import org.apache.spark.mllib.feature.Normalizer;
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值