一道 spark-submit 面试题

bin/spark-submit
–class com.huawei.cluster
–master yarn-cluster
==–driver-cores 2 ==
==–driver-memory 30G ==
–conf spark.shuffle.service.ennabled=true
–conf spark.memory.storageFraction=0.30
–conf spark.memory.fraction=0.7
–conf spark.default.parallelism=2800
–conf spark.sql.shuffle.partitions1=1400
–conf spark.yarn.executor.memeoryOverhead=4096
==–executor-memory 30g \ ==
==–executor-cores 8 ==
==–num-executors 20 ==
/export/servers/spark-2.2.0-bin-2.6.0-cdh5.14.0/examples/jars/spark-examples_2.11-2.2.0.jar
100
问题1:这个任务一共需要多少的Cores和Memory,答案:162cores,630G(driver=30g),
问题2:程序运行时每个executor上的storage内存和execution内存多少,9g,21g
正确答案:6.3g 14.7g,请参考下面图示

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值