- 博客(2)
- 收藏
- 关注
原创 2021-06-09
RDD编程初级实践RDD编程初级实践 RDD编程初级实践 1、 pyspark交互式编程 本作业提供分析数据data.txt,该数据集包含了某大学计算机系的成绩,数据格式如下所示: Tom,DataBase,80 Tom,Algorithm,50 Tom,DataStructure,60 Jim,DataBase,90 Jim,Algorithm,60 Jim,DataStructure,80 …… 2、 编写独立应用程序实现数据去重 对于两个输入文件A和B,编写Spark独立应用程序,对两个文件进行合并,
2021-06-09 17:34:18 686 2
原创 调用MapReduce对文件中各个单词出现次数进行统计
调用MapReduce对文件中各个单词出现次数进行统计 实验配置:系统:Ubuntu Kylin | 环境:Hadoop | 软件:Eclipse 首先,启动Eclipse,需要填写workspace(工作空间),用来保存程序所在的位置,这里按照默认,不需要改动,如下图,点击“OK”按钮,进入Eclipse软件。 直接采用默认的设置“/home/hadoop/workspace”,工作空间目录位于hadoop用户目录“/home/hadoop”下。 Eclipse启动以后,呈现的界面如下图所示。 创建一
2020-12-20 18:03:34 269
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人