15-kryo序列化

从计算的角度来看,算子以外的代码都是在Driver端执行,算子里面的代码都是在Executor端执行。在计算中经常会出现算子内要用到算子外的数据,如果使用的算子外的数据无法序列化,那么就意味着无法传值给Executor执行。
kyro序列化比java序列化更快更紧凑,但spark默认的序列化是java并不是kryo序列化,因为spark并不支持所有序列化类型,而且每次使用都必须进行注册。注册只针对RDD,在DataFrame和DataSet当中自动实现了kryo序列化。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值