Spark RDD案例：统计每日新增用户

最新推荐文章于 2024-08-30 23:27:36 发布

兮若耶

最新推荐文章于 2024-08-30 23:27:36 发布

阅读量92

点赞数

文章标签： spark scala big data

本文链接：https://blog.csdn.net/m0_63797754/article/details/125353417

版权

该博客介绍了如何使用Spark和Scala处理大数据任务，通过详细步骤讲解如何在Scala环境中搭建项目，添加依赖，配置日志，并实现统计每天新增用户的逻辑。用户首先提出任务，接着启动Spark集群和HDFS，然后在Maven项目中进行Scala开发，最终运行并查看统计结果。

摘要由CSDN通过智能技术生成

一、提出任务

已知有以下用户访问历史数据，第一列为用户访问网站的日期，第二列为用户名：

2022-01-01,sala
2022-01-01,alice
2022-01-01,mike
2022-01-02,red
2022-01-02,siek
2022-01-02,dkj
2022-01-03,mike
2022-01-03,skl
2022-01-03,skill

2022-01-01	sala、alice、mike
2022-01-02	red、siek、dkj
2022-01-03	mike、skl、skill、
现需要根据上述数据统计每日新增的用户数量，期望统计结果：

2022-01-01,3
2022-01-02,1
2022-01-03,2

二、启动集群

预备工作：启动集群的HDFS与Spark

请添加图片描述

在HDFS上准备数据 - 【user.txt】

请添加图片描述

三、完成任务

（一）新建Maven项目、创建名字、点击finish

请添加图片描述

（二）将java更改为scala

请添加图片描述

（三）添加依赖

在pom.xml中添加依赖

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <groupId>net.fhl.rdd</groupId>
    <artifactId>CountNewUser</artifactId>
    <version>1.0-SNAPSHOT</version>
    <properties>
        <maven.compiler.source>8</maven.compiler.source>
        <maven.