在执行mapreuce任务的时候 进程会多一个叫做yarnchild
MRAppmaster:整个运行程序的管理者 管理的是整个程序的运行进度
yarnchild:maptask和reducetask运行的进程 1个yarnchild对应1个maptask任务或reducetask任务
maptask任务并行度:
任务数与逻辑切片的数量有关 一个逻辑切片的大小为block的大小
切片和块没有关系:有关是数据计算的逻辑划分,一个是数据存储的物理划分
如何知道的:
1.首先打开FileinputFormat源码 找到getSplits方法
2.找到splitSize这个属性 发现splitSize=computeSplitSize(blockSize, minSize, maxSize);
3.跟踪blockSize发现blockSize = file.getBlockSize(); 这个就是块的大小
4.跟踪minSize发现minSize = Math.max(getFormatMinSplitSize(), getMinSplitSize(job)); 而getFormatMinSplitSize()方法返回的是1 ,getMinSplitSize(job)方法返回的是在map-site.xml中配置的"mapreduce.input.fileinputformat.split.minsize这个属性的值 默认为0
5.所以计算得出minsize为1
6.maxSize=context.getConfiguration().getLong(SPLIT_MAXSIZ, Long.MAX_VALUE); 这个返回long的最大值
7.splitSize=Math.Max(minSize,Math.Min(blockSize,maxSize));这个返回的是一个中间值
从什么的源码可以得出 如果想让逻辑切片的大小小于 block块的大小 就,maxSize的大小改的比blocksize小
如果想让逻辑切片的大小大于 block块的大小 就,minSize的大小改的比blocksize大
如果想要更改并行度就需要改block的大小
1)改配置文件 (map-site.xml)
mapreduce.input.fileinputformat.split.maxsize
mapreduce.input.fileinputformat.split.minsize
2)修改代码
单位是byte
FileInputFormat.setMaxInputSplitSize(job, 330);
FileInputFormat.setMinInputSplitSize(job, 330);
逻辑切片的大小是怎么决定的?
最新推荐文章于 2021-10-29 19:36:54 发布