IDEA中scala实现word_count,sbt打jar包,并发送linux中spark运行(sbt打包详细)

0-背景

最近因为业务需求,开始鼓捣下kafka和spark。因为也是第一次做这方面的内容,而且没玩过java和scala。所以这个word count的例子,鼓捣了近两天才出结果。
整个流程如下:首先搭建虚拟机,安装ubuntu。然后在linux中安装spark。最后再本地的IDEA中开发scala,并打包jar包,发送到spark系统中,运行。最后结果如下:
在这里插入图片描述
在这里插入图片描述
下面对其中一些地方,记录下来。

1-spark安装

这里安装的spark是单机版的,不需要安装hadoop,整个安装过程比较简单,没必要在重述一遍了。具体的安装可以百度或者参照这
Linux安装、运行单机版Spark
,或者去官网spark-standalone model

2-IDEA开发

在安装完spark后。在本地安装了IDEA,并且安装了scala。scala是直接在IDEA中安装的。这里面我没有配置scala和sbt,是直接在IDEA中安装的scala,sbt也没管,应该是自带的。有点尴尬,网上有一些安装scala和sbt的教程。这里说明下。整个IDEA的流程,可以参照这里IDEA安装及环境配置(图文)
安装IDEA:
在这里插入图片描述

  • 3
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Great1414

整理不易,谢谢支持

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值