Hadoop序列化和反序列化

序列化:将内存中的对象转换成字节序列,以便于持久化到硬盘和网络传输
反序列化:将接收到的字节序列或者是磁盘中持久化的数据转换成内存中的对象

JDK中的序列化和反序列化

使用java提供的序列化必须遵循三个条件:

  1. 该类必须实现java.io.Serializable接口
  2. 对于该类的所有无法序列化的字段必须使用transient修饰
  3. 加上序列化版本ID serialVersionUID,这个是用来识别序列化的之前的类到底是哪一个

  在使用JDK提供的序列化机制时需要借助一对I/O流,ObjectOutputStream和ObjectInputStream这两个流分别是进行序列化和反序列化操作,通过ObjectOutputStream类的writeObject(Object obj)方法可以将对象写入到输出流中,通过ObjectInputStream类的readObject()方法可以从该输入流中反序列化该对象出来。JDK序列化算法一般会有如下步骤:

  1. 将对象实例相关的类元数据输出
  2. 递归输出类的超类描述直到不再有超类
  3. 类元数据完了之后,开始从最顶层的超类开始输出对象实例的实际数据值
  4. 从上至下递归输出实例的数据

Hadoop序列化和反序列化

  在Hadoop中涉及到集群,集群需要进行大量的数据传输,所以对于Hadoop集群来说会有一个需求就是怎么样将A 机器内存中的数据传输到B 机器?这可以使用java自带的序列化框架serializable,但是由于java自带的序列化会有很多额外的信息,不利于网络的传输,所以Hadoop实现了一套自己的序列化框架,相对于jav

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值