Day2:大数据项目实训----手机流量统计项目(一)


学院:计算机学院

专业:数据科学与大数据技术

实训项目:手机流量分析项目

环境:idea+maven+hadoop

题目:设计MapReduce统计每个手机号上行流量和、下行流量和、总流量和(即上

行流量和+下行流量和)

第一天工作:
    1、搭建hadoop
    2、安装下载idea并配置好maven

1、启动并检验hadoop是否正常运行

这里不做教程讲解(本人是初学小白,不敢把大家带偏)。安装部署教程详细可以搜索“CentOS上Hadoop的伪分布安装”(单机安装即可)

(1)创建好虚拟机(这里起名叫Hadoop102)
(2)解压 hadoop-3.2.0.tar.gz 安装包到/export/servers目录下
(3)修改 yarn-site.xml,设置 yarn 上支持运行的服务和环境变量白名单
在这里插入图片描述

(4)修改 hdfs-site.xml 文件,把 hdfs 中文件副本的数量设置为 1,因为现在伪分布集群只有一个节点

在这里插入图片描述

(5)修改 core-site.xml 文件,注意 fs.defaultFS 属性中的主机名需要和你配置的主机名保持一致
在这里插入图片描述

(6)修改 core-site.xml 文件,注意 fs.defaultFS 属性中的主机名需要和你配置的主机名保持一致

在这里插入图片描述

(7)启动hadoop并用jps命令查看进程情况,确认启动成功

在这里插入图片描述

2、到这里已经确认Hadoop安装完成。接下来要进行idea中maven的部署

(1)下载并安装idea,这是我安装的版本(idea2023.1.6破译版)

在这里插入图片描述

(2)根据maven部署教程,创建maven项目。这里用的JDK是1.8.0
在这里插入图片描述

(3)尝试在pom.xml中添加一些常用依赖

在这里插入图片描述

(4)顺利导入依赖并且没有报错
在这里插入图片描述

今天的实训告一段落,剩下的明天继续干

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值