spark为什么比hive速度快?

spark是什么?

spark是针对于大规模数据处理的统一分析引擎,通俗点说就是基于内存计算的框架

spark和hive的区别?

  1. spark的job输出结果可保存在内存中,而MapReduce的job输出结果只能保存在磁盘中,io读取速度要比内存中慢;
  2. spark以线程方式运行,MapReduce以进程的方式运行,进程要比线程耗费时间和资源;
  3. spark提供了更为丰富的算子操作;
  4. spark提供了更容易的api,支持python,java,scala;

spark为什么比hive速度快?

  1. spark底层不需要调用MapReduce,而hive底层调用的是MapReduce;
  2. spark基于内存计算,而hive基于磁盘计算,内存的读取速度远超过磁盘读取速度;
  3. spark以线程方式进行运行,而hive以进程方式运行,一个进程中可以跑多个线程,进程要比线程耗费资源和时间;
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值