用MergeJOIN的方式在分布式系统上完成2TB“订单表”和100K的省份表在省份ID上的连接,改成IO量(包括跨网络读写和本地外排开销),大约是多少? ( )
聚合一般需要分成两个阶段进行,第一个阶段中增加Hash-semi aggregate有机会很大的减少两个阶段间的shuffle数据量。计算每个买家订单数量,SELECT Buyer, COUNT(*) FROM Orders GROUP BY Buyer;,如果平均每个买家有三条订单,那么上述优化在最好的情况下shuffle数据量会是未优化前的多少?( )
HashJoin的使用场景是有限制的,它不能支持所有类型的连接,它的限制包括:( )
下面的SQL哪些有可能经过两个阶段(只经过一次shuffle)就计算出结果:( )
在集群计算的过程中,如果发现集群带宽已经打满,但是CPU平均负载30%,下面哪些措施可能会有帮助?( )