hadoop的序列化机制与java的序列化机制不同,他将对象序列化到流中,值得一提的是java的序列化机制是不断的创建对象,但在Hadoop的序列化机制中,用户可以服用对象这样就减少了java对象的分配和回收,提高了应用效率。
Hadoop序列化的主要优势
1.紧凑:Hadoop中最稀缺的资源是宽带,所以紧凑的序列化机制可以充分的利用宽带。
2.快速:通信时大量使用序列化机制,因此,需要减少序列化和反序列化的开销。
3.可扩展:随着通信协议的升级而可升级。
4.互操作:支持不同开发语言的通信。
Hadoop作为一种通用的海量数据处理平台,使用压缩方式的方面主要考虑到压缩速度和解压的可分割性。
Hadoop没有采用java远程调用的RIM,而是采用动态代理和调用转发句柄,实现了自己的IPC机制,由于IPC服务器的高负载,采用了大量排阻塞的java nio系统。