ETL对数据清洗

本文介绍了ETL流程,即数据从源抽取、转换、加载到目标端的过程。为帮助读者获取所需数据,提供了百度云链接和提取码。通过ETL,可以对大量数据进行维度分析,选择必要的字段并去除无用信息,以便后续分析。
摘要由CSDN通过智能技术生成

声明:许多小伙伴私信我,需要trackinfo_20130721.data,可以通过百度云 链接:https://pan.baidu.com/s/1aVpU3k3mddyaIkmXPmwnrg 提取码:nilv 来获取,或者可以从我的csdn资源中下载。

ETL
描述将数据从来源端经过抽取(extract)、转换(transform)、加载(load)至目的端的过程。

有时候面对大量的数据,我们不方便进行计算,这个时候就需要进行相应的维度分析,解析出你需要的字段,去除一些你不需要的字段,然后进行分析

package project.mrv2;

import com.imooc.bigdata.hadoop.hdfs.mr.project.utils.ContentUtils;
import com.imooc.bigdata.hadoop.hdfs.mr.project.utils.LogParser;
import org.apache.commons.lang.StringUtils;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.NullWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.ha
评论 5
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值