UserLoginTimes代码

package com.zhiyou.bd17.mr;


import java.io.IOException;


import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;


public class UserLoginTimes {


// 定义map
public static class LoginCountMap extends Mapper<LongWritable, Text, Text, IntWritable> {


private String[] infos;
private Text oKey = new Text();
private IntWritable oValue = new IntWritable(1);


@Override
protected void map(LongWritable key, Text value, Mapper<LongWritable, Text, Text, IntWritable>.Context context)
throws IOException, InterruptedException {


// 解析一行数据,转换成一个单词组成的数组
infos = value.toString().split("\\s");

if ("login".equals(infos[1])) {
oKey.set(infos[0]);
context.write(oKey, oValue);
}


}


}


// 定义reducer
public static class LoginCountReducer extends Reducer<Text, IntWritable, Text, IntWritable> {


private int sum;
private IntWritable oValue = new IntWritable(0);


@Override
protected void reduce(Text key, Iterable<IntWritable> values,
Reducer<Text, IntWritable, Text, IntWritable>.Context context)
throws IOException, InterruptedException {
sum = 0;


for (IntWritable value : values) {
sum += value.get();
}
// 输出kv(单词,单词的计数)
oValue.set(sum);
context.write(key, oValue);
}


}


// 组装一个job到mr引擎上执行
public static void main(String[] args) throws IOException, ClassNotFoundException, InterruptedException {


// 构建一个configuration,用来配置hdfs 的位置,和mr的各项参数
Configuration configuration = new Configuration();


// 创建job对象
Job job = Job.getInstance(configuration);
job.setJarByClass(UserLoginTimes.class);
job.setJobName("第一个mr作业:wordcount");


// 配置mr执行类
job.setMapperClass(LoginCountMap.class);
job.setReducerClass(LoginCountReducer.class);


// 设置输出kv类型
// job.setMapOutputKeyClass(Text.class);
// job.setMapOutputValueClass(IntWritable.class);
job.setOutputKeyClass(Text.class);
job.setOutputValueClass(IntWritable.class);


// 设置数据源(待处理)
Path inputPath = new Path("/bd17/user-logs-large.txt");
FileInputFormat.addInputPath(job, inputPath);


// 设置目标数据的存放位置
Path outputPath = new Path("/bd17/output/desdump2");
outputPath.getFileSystem(configuration).delete(outputPath, true);
FileOutputFormat.setOutputPath(job, outputPath);


// 启动作业,分布式计算提交给mr引擎
boolean result = job.waitForCompletion(true);
System.exit(result ? 0 : 1);
}

}


数据样式:


执行结果:


  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
智慧校园建设是在国家政策推动下,为深化教育改革、提升教育质量和管理效率而提出的重要项目。该项目旨在通过信息化手段,解决传统教育中存在的资源分散、管理混乱等问题,实现教育资源的高效利用和教学质量的全面提升。 目前,教育信息化虽取得一定进展,但面临“孤岛架构”的挑战,包括硬件资源无法共享、数据孤岛、应用孤岛等问题,导致资源浪费和管理效率低下。为此,智慧校园的建设目标聚焦于家校沟通便捷化、校园管理科学化、校园生活轻松化、课堂教学互动化和校园设施智能化,以提高教学效率和学生学习体验。 智慧校园的核心价值在于构建先进的网络教学平台和管理信息系统,实现教学资源的高效配置和利用,促进师生互动,提高管理效率,降低成本,构建健康高雅的生活环境。解决方案涵盖综合应用平台规划、系统架构设计、媒体发布、数字会议系统等,通过后台服务层、基础接入层和用户接入层的有机结合,实现智慧校园的全面功能。 智慧校园管理平台作为核心组成部分,提供模块化体系,包括公开课、直播、教学资源等23大应用,支持与第三方接口对接,实现多级管理。电教预约管理平台通过移动端APP或web后台简化预约流程,提高教室和会议室资源利用率,支持会议预订、审批、信息发布和环境管控。 教育录播系统和云平台支持教师制作和分享优质教学资源,进行在线组卷和评卷,同时提供学生应用,如高清视频录制、在线直播和互动交流,促进教学资源的共享和教育均衡化发展。这些系统的整合应用,将极大地推动教育信息化进程,实现教育资源的最大化利用和教育质量的全面提升。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值