mr读取mysql_新增访客数量MR统计之MR数据输出到MySQL

关注公众号:分享电脑学习

回复"百度云盘" 可以免费获取所有学习文档的代码(不定期更新)

云盘目录说明:

tools目录是安装包

res 目录是每一个课件对应的代码和资源等

doc 目录是一些第三方的文档工具

首先将MR数据输出到MySQL

创建TransformerOutputFormat和ICollector,文件位置如下:

af32f6bd2f0dcd12a0f616218030cda6.png

完成ICollector的代码

9479fdecab8e14a07b80cc05a36e0179.png

完成TransformerOutputFormat代码如下:

自定义的数据输出格式器,要求: 1. 数据输出到mysql 2. 要体现代码的公用性

681d96fd6f74c6146f307ed14645f752.png

接着下面的部分

40f95cd21429a131e7cf19657b4c916f.png

使用的是FileOutputFormat中默认的方式

165258bd6095b895517b5c765127cc6a.png

自定义的具体将reducer输出数据输出到mysql表的输出器

48ec20fd1c33f4a7ad4a09c859b694b3.png

构造方法

d0c52555c3e974db7d76b7c1c68ff0f8.png

Write方法

528fc4b2f0a033262e2ba9f22c8b90f6.png

Close方法

1ddca125020e29cf21fe1639dbf7cca6.png

修改Runner类,配置方法加入所需要的配置文件

e266f0be0e8e0186fa9b6737da771676.png

将reduce的输出类型更改为MapWritableValue

job.setOutputValueClass(MapWritableValue.class);

e3b4e88007418f742fef0274a48d0314.png

给定自定义的outputformat类

job.setOutputFormatClass(TransformerOutputFormat.class);

91a0708372666081bbc50099baf58beb.png

如果全改了,可以测试运行下

先看下HDFS上有没有数据

190c6efae92d6b0a4b06d1da8df78f7b.png

下载下来查看下

5dc7299d072b47c83f9b70e0851e4c03.png

再看下数据库有没有数据,发现有数据,本地环境就没有问题了,现在看下打包到Linux上之后是否有问题。

bf7fb826ab6692968b0ff6b9061f65c1.png

先打包程序运行一下

54b73c61346d9f3e7dbb8a6367b8bf5c.png

2e05d543e2d8e8be0a428ac7c42508e1.png

运行jar包,查看屏幕信息

1b9c088482f9a499dd4dfaa94f611069.png

查看屏幕输出信息

2fd8b8447fafa3459086ea6cc2536dd5.png

查看HDFS上是有数据的

a7901490257268614076f4148da2b4e9.png

代码已经上传到云盘了,可以下载调试一下

ec894d984fc0d1abb17493a943f985df.png

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值