如何拉取大批量数据到本地

现在有这么个业务场景,我们有大批量数据要从第三方系统拉取过来,一次性拉取肯定不太现实,我们只有分页来拉取,然后把数据全部拉取过来放到集合中,然后统一采用对应跨框架批量插入进去。

上代码:

try {
    int pageNumber = 1;
    int pageSize = 100;
    //定义一个集合存放所有便利数据
    List<AttMnpdNormSpil> insertList = new ArrayList<>();
    //准备数据(获取表中所有的主键id)
    //List<String> syncedList = attMnpdNormSpilService.getList().stream().map(AttMnpdNormSpil::getId).collect(Collectors.toList());

    while (true) {
        ResponseMessage message = WaterManageClientUtils.listStations(accessTokenUtils.getAccessToken(), pageNumber, pageSize, WaterMangeUrlConfig.attMnpdNormSpil);
        System.out.println(message.toString());
        JSONObject jsonObj = (JSONObject) JSON.toJSON(message.getMessage());
        PageAttMnpdNormSpilVO pageAttMnpdNormSpilVO = JSONObject.toJavaObject(jsonObj, PageAttMnpdNormSpilVO.class);
        System.out.println(pageAttMnpdNormSpilVO);
        if (pageAttMnpdNormSpilVO == null) {
            break;
        }
        List<AttMnpdNormSpil> rows = pageAttMnpdNormSpilVO.getRows();
      //  List<AttMnpdNormSpil> attMnpdNormSpil = rows.stream().filter(item -> !syncedList.contains(item.getId())).collect(Collectors.toList());
        insertList.addAll(rows);
        if (rows.size() < pageSize) {
            break;
        }
        pageNumber ++;
    }
    if (CollectionUtils.isNotEmpty(insertList)) {
        attMnpdNormSpilService.add(insertList);
    }
}catch (Exception ex){
    logger.error("同步数据异常", ex);
    responseMessage.setStatus(-1);
    responseMessage.setMessage("同步数据异常" + ex.getMessage());
}

 

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值