MapReduce分析NCDC 年气象数据最低温度与最高温度

通过Hadoop MapReduce技术,分析1941年至1950年的NCDC气象数据,提取每一年的最高和最低温度。Mapper阶段进行数据截取,Reducer阶段进行温度比较,最终结果存储于/output/mintemp目录下。
摘要由CSDN通过智能技术生成

利用hadoop计算技术对采集的气象数据信息进行处理,主要分两个阶段:mapper阶段和reducer阶段,mapper阶段主要是对日志文件进行按行读取并进行字符串截取,reducer阶段对mapper阶段传过来的数据进行大小比较,最终获取每一年中的最高温度。

具体气象数据的格式可以参考:https://blog.csdn.net/lihuinihao/article/details/38315209

1. 首先将eclipse将MaxTemperature项目打成jar包,并将jar包和气象数据拖拽到虚拟机上。本文中分析的是1941-1950十年间的数据信息,分别存在10个文件中。

2. 在hdfs系统中新建一个名为/inputdata_t的安装目录

     hdfs dfs -mkdir /inputdata_t

3.  将数据集上传到inputdata_t目录下

     hdfs dfs -put ~/桌面/19* /inputdata_t

4. 切换到根目录并对数据进行分析

    cd

    hadoop jar ~/桌面/M

  • 1
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值