重构优化第三方查询接口返回大数据量的分页问题

# 问题描述
     用户线上查询其上网流量详单数据加载慢,且有时候数据没有响应全~
     1、经排除是调用第三方数据量达10w条响应会超时,数据没正常返回
     2、现有线上缓存分页也是加载慢数据不能正常展示
     3、第三方接口返回类似报文jsonj:
     
    4、我们要返回页面的报文json:
    

5、页面最终类似截图显示结果:

# 解决方案:
>    第1种方案:历史遗留问题,第三方提供的接口是一次性返回数据,没考虑到用户查询一个月的数据量会超过几万条,所以我们作为调用方也只能通过redis缓存然后前端递归分页加载所有数据展现~
> 代码示例:

       第1种方案若第三方接口返回的数据量少,线上一直正常呈现给用户数据;某天某个用户查询数据上万条返回然后问题暴露了,问题1、第三方接口超时失败(咱不通过协同系统解决问题);2、前端在递归查询缓存所有的数据加载慢用户体验非常差‘。
因为是线上问题,尽量避免前端修改最少化,只能通过后端接口来解决,通过原有业务流程及代码的解读,第三方接口最新版本也有兼容分页调用,但是没法同步分页的,其分页返回的数据达不到我们现有线上前端展示的结构要求,要按日期yyyy-MM-dd分开分组,只能重构优化;
第2种方案:

#相关工具类代码

/**
 * 时间数组中取最大最小日期
 *
 * @param dateArray 时间日期数据:yyyy-MM-dd
 * @param flag 值为true 返回最大值,false返回最小值
 * @return 2013-11-11
 */
public static String showMaxOrMinDate(String[] dateArray, boolean flag) {
    Map<String, Integer> dateMap = new TreeMap<>();
    int i, arrayLen;
    arrayLen = dateArray.length;
    for (i = 0; i < arrayLen; i++) {
        String dateKey = dateArray[i];
        if (dateMap.containsKey(dateKey)) {
            int value = dateMap.get(dateKey) + 1;
            dateMap.put(dateKey, value);
        } else {
            dateMap.put(dateKey, 1);
        }
    }
    Set<String> keySet = dateMap.keySet();
    String[] sorttedArray = new String[keySet.size()];
    Iterator<String> iter = keySet.iterator();
    int index = 0;
    while (iter.hasNext()) {
        String key = iter.next();
        sorttedArray[index++] = key;
    }
    int sorttedArrayLen = sorttedArray.length;
    String dateStr = "";
    if (flag) {
        dateStr = sorttedArray[sorttedArrayLen - 1];
    } else {
        dateStr = sorttedArray[0];
    }
    return dateStr;
}
/**
 * @Author dxw
 * @Description //TODO 获取传入日期所在年的第一天
 * @Date 19:19 2021/3/29
 * @Param
 * @return
 */
public static Date getLastDayOfMonth(Date date) {
    final Calendar cal = Calendar.getInstance();
    cal.setTime(date);
    final int last = cal.getActualMaximum(Calendar.DAY_OF_MONTH);
    cal.set(Calendar.DAY_OF_MONTH, last);
    return cal.getTime();
}
/**
 * 日期转字符串
 */
public static String date2String(Date date, String pattern) {
    if (date == null) {
        throw new IllegalArgumentException("timestamp null illegal");
    }
    pattern = (pattern == null || pattern.equals("")) ? "yyyy-MM-dd": pattern;
    SimpleDateFormat sdf = new SimpleDateFormat(pattern);
    return sdf.format(date);
}
/**
 * 比较两个日期的月份是否一致
 *
 * @param startDate 要比较日期
 * @param endDate 比较日期
 * @return
 */
public static boolean isSameMonth(String startDate, String endDate) {
    Date date1 = DateUtil.parse(startDate);
    Date date2 = DateUtil.parse(endDate);
    return DateUtil.isSameMonth(date1, date2);
}
/**
 * 获取两个时间中间的日期(天)
 * 
 * @param startDate "2022-01-09"
 * @param endDate "2022-01-12"
 * @return [2022-01-09, 2022-01-10, 2022-01-11, 2022-01-12]
 */
public static List<String> getBetweenDay(String startDate, String endDate) {
    Date start = null;// 定义起始日期
    Date end = null;// 定义结束日期
    try {
        start = new SimpleDateFormat("yyyy-MM-dd").parse(startDate);
        end = new SimpleDateFormat("yyyy-MM-dd").parse(endDate);
    } catch (ParseException e) {
        e.printStackTrace();
    }
    List<String> result = new ArrayList<>();
    SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd");
    Date date = start;
    Calendar cd = Calendar.getInstance();// 用Calendar 进行日期比较判断
    while (true) {
        assert date != null;
        assert end != null;
        if (!(date.getTime() <= end.getTime())) {
            break;
        }
        result.add(sdf.format(date));
        cd.setTime(date);
        cd.add(Calendar.DATE, 1);// 增加一天 放入集合
        date = cd.getTime();
    }
    return result;
}

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值