java把一个list_java 把一个大list分成N个小list,然后用map存储的小方法

有时候一个很大的list集合数据,万,百万级别的数据,但怕数据量过大,无法处理,可以分成N个小list然后分片处理数据。可以结合多线程来提高性能。

代码:

package cn.uc.db.report.utils;

import java.util.ArrayList;

import java.util.HashMap;

import java.util.List;

import java.util.Map;

/**

*

* 转换工具

*

* @date 2016/12/7

* @author ruiliang

* @version 1.0.0

*

*/

public class ListToMapUtil {

/**

* 把集合分片到指定槽位的map上

*

* @param list

* @param slotPosition

* map大小->槽位

* @return

*/

public static Map> shardingToMap(List list, int slotPosition) {

// 返回数据集合

Map> hmap = new HashMap>();

int list_size = list.size();

int thread_exec_count = slotPosition;// 每个线程分的数据数

int thread_num = 1;// 根据数据量 求出线程数

int list_remainder_num = 0;// 集合余数

// 先把list集合进行分片处理

if (list_size > thread_exec_count) {

thread_num = list_size / thread_exec_count;

if (list_size % thread_exec_count > 0) {// 有余数

// 求集合余数

list_remainder_num = thread_num * thread_exec_count;

thread_num++;

}

}

if (thread_num == 1) {

// 如果1个槽位可以装下,直接返回一个

hmap.put(1, list);

}

// ~~~~~~~~~~~~~~~~~~~如果数据需要多线程处理~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~

// 根据j,来反推key

int key = 0;

int j = 1;

List temp = new ArrayList<>();

for (T t : list) {

temp.add(t);

// 每过一个线程,K就变+1,根据线程来归纳数据

if (j >= thread_exec_count) {

// System.out.println("temp:" + temp);

hmap.put(key, temp);

temp = new ArrayList<>();

j = 0;

key++;// key++ 相当于在化分大集合

}

j++;

}

// 余数加入map

hmap.put(-1, list.subList(list_remainder_num, list_size));

return hmap;

}

public static void main(String[] args) {

List accounts = new ArrayList<>();

for (long i = 1; i < 103; i++) {

accounts.add(i);

}

System.out.println(accounts);

Map> maps = ListToMapUtil.shardingToMap(accounts, 5);

System.out.println(maps);

}

/**

* oputput:

*

* [1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20,

* 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38,

* 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53, 54, 55, 56,

* 57, 58, 59, 60, 61, 62, 63, 64, 65, 66, 67, 68, 69, 70, 71, 72, 73, 74,

* 75, 76, 77, 78, 79, 80, 81, 82, 83, 84, 85, 86, 87, 88, 89, 90, 91, 92,

* 93, 94, 95, 96, 97, 98, 99, 100, 101, 102]

*

* {0=[1, 2, 3, 4, 5], 1=[6, 7, 8, 9, 10], 2=[11, 12, 13, 14, 15], 3=[16,

* 17, 18, 19, 20], 4=[21, 22, 23, 24, 25], 5=[26, 27, 28, 29, 30], 6=[31,

* 32, 33, 34, 35], 7=[36, 37, 38, 39, 40], 8=[41, 42, 43, 44, 45], 9=[46,

* 47, 48, 49, 50], 10=[51, 52, 53, 54, 55], 11=[56, 57, 58, 59, 60],

* 12=[61, 62, 63, 64, 65], 13=[66, 67, 68, 69, 70], 14=[71, 72, 73, 74,

* 75], 15=[76, 77, 78, 79, 80], 17=[86, 87, 88, 89, 90], 16=[81, 82, 83,

* 84, 85], 19=[96, 97, 98, 99, 100], 18=[91, 92, 93, 94, 95], -1=[101,

* 102]}

*

*

*/

}

可以结合多线和,参考多线程代码

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值