这种大数据的的题肯定是要分堆来做,再从堆中选出每个堆中最大的数,然后进行比较。
1,首先就是如何进行分堆的问题,这边我们使用hash来分成n个10M的小文件,10T除以10M约等于1000000,所以使用hash(IP)%1000000,来分堆。
2,从每个堆中选取出现次数最多的IP;
3,从这100000个IP中选择出现最多的IP即可。
这种大数据的的题肯定是要分堆来做,再从堆中选出每个堆中最大的数,然后进行比较。
1,首先就是如何进行分堆的问题,这边我们使用hash来分成n个10M的小文件,10T除以10M约等于1000000,所以使用hash(IP)%1000000,来分堆。
2,从每个堆中选取出现次数最多的IP;
3,从这100000个IP中选择出现最多的IP即可。