1、序列化概述
序列化就是把内存中的对象,转换成字节序列(或其他数据传输协议)以便于存储到磁盘(持久化)和网络传输。
反序列化就是将收到的字节序列(或其他数据传输协议)或者磁盘的持久化数据,转换为内存中的对象。
Hadoop序列化的特点
① 紧凑:高效实用存储空间
② 快速:读写数据的额外开销小
③ 可扩展:随着通信协议的升级而可升级
④ 互操作:支持多语言的交互
2、自定义bean对象实现序列化接口(Writable)
当需要在Hadoop框架内部传输一个bean对象时,那么该对象就需要实现序列化接口。
实现bean对象序列化步骤:
① 必须实现Writable接口
② 反序列化时,需要反射调用空参构造函数,所以必须有空参构造函数
public FlowBean() {
super();
}
③ 重写序列化方法
@Override
public void write(DataOutput out) throws IOException {
out.writeLong(arg);
out.writeLong(downFlow);
out.writeLong(sumFlow);
... // 需要传递的参数都需要在此进行序列化
}
④ 重写反序列化的方法
@Override
public void readFields(DataInput in) throws IOException {
upFlow = in.readLong();
downFlow = in.readLong();
sumFlow = in.readLong();
... // 将接收的数据进行反序列化
}
注意:反序列化的顺序和序列化的顺序必须完全一致
⑤ 要想把结果显示在文件中,需要重写toString(),可用”\t”分开,方便后续用。
⑥ 如果需要将自定义的bean放在key中传输,则还需要实现Comparable接口,因为MapReduce框中的Shuffle过程要求对key必须能排序。
@Override
public int compareTo(FlowBean o) {
// 倒序排列,从大到小
return this.sumFlow > o.getSumFlow() ? -1 : 1;
}
bean序列化Demo
import java.io.IOException;
import org.apache.hadoop.io.Writable;
// 1 实现writable接口
public class FlowBean implements Writable{
private long upFlow; // 上行流量
private long downFlow; // 下行流量
private long sumFlow; // 总流量
//2 反序列化时,需要反射调用空参构造函数,所以必须有
public FlowBean() {
super();
}
// 有参构造函数,用于新建对象
public FlowBean(long upFlow, long downFlow) {
super();
this.upFlow = upFlow;
this.downFlow = downFlow;
this.sumFlow = upFlow + downFlow;
}
//3 写序列化方法
@Override
public void write(DataOutput out) throws IOException {
out.writeLong(upFlow);
out.writeLong(downFlow);
out.writeLong(sumFlow);
}
//4 反序列化方法
//5 反序列化方法读顺序必须和写序列化方法的写顺序必须一致
@Override
public void readFields(DataInput in) throws IOException {
this.upFlow = in.readLong();
this.downFlow = in.readLong();
this.sumFlow = in.readLong();
}
// 6 编写toString方法,方便后续打印到文本
@Override
public String toString() {
return upFlow + "\t" + downFlow + "\t" + sumFlow;
}
public long getUpFlow() {
return upFlow;
}
public void setUpFlow(long upFlow) {
this.upFlow = upFlow;
}
public long getDownFlow() {
return downFlow;
}
public void setDownFlow(long downFlow) {
this.downFlow = downFlow;
}
public long getSumFlow() {
return sumFlow;
}
public void setSumFlow(long sumFlow) {
this.sumFlow = sumFlow;
}
}