工作中mysql分页,各页记录中存在重复的数据

在MySQL5.6版本中,使用orderbylimit进行分页查询时,由于优化器使用了priorityqueue,可能导致排序不稳定,从而在相同排序值时出现数据重复。解决方案是在orderby后添加一个二级排序字段,如主键,确保绝对排序。这涉及到MySQL的优化策略和堆排序的特性,以及如何避免因这种优化导致的翻页问题。
摘要由CSDN通过智能技术生成

现象描述:

项目在做分页查询的时候,用到了排序 order by ctime,由于是测试环境,ctime时间值都是一样的。在通过mybatis分页查询的时候,发现最后一页数据和第一页数据重复。后来就拿出sql进行测试,发现偶尔是重复的。

1.解决方案
增加一个二级排序【比如:主键,时间戳】,总之实现绝对排序即可
order ctime,id 即可。

2.原理
在MySQL 5.6的版本上,优化器在遇到order by limit语句的时候,做了一个优化,即 使用了priority queue。
使用 priority queue 的目的, 就是在不能使用索引有序性的时候,如果要排序,并且使用了limit n,那么只需要在排序的过程中,保留n条记录即可,这样虽然不能解决所有记录都需要排序的开销,但是 只需要 sort buffer 少量的内存就可以完成排序。
之所以MySQL 5.6出现了第二页数据重复的问题, 是因为 priority queue 使用了堆排序的排序方法,而堆排序是一个不稳定的排序方法,也就是相同的值可能排序出来的结果和读出来的数据顺序不一致。
MySQL 5.5 没有这个优化,所以也就不会出现这个问题。

例如:
SELECT
id AS “id”,
add_time AS “addTime”,
delete_status AS “deleteStatus”,
coupon_sn AS “couponSn”,
STATUS AS “status”,
coupon_id AS “couponId”,
user_id AS “userId”,
order_id AS “orderId”,
use_time AS “useTime”
FROM
card_coupon_info i
WHERE
i.coupon_id = ‘1339117385249742849’
AND EXISTS ( SELECT * FROM card_coupon cc WHERE cc.id = i.coupon_id )
ORDER BY
i.add_time DESC
LIMIT 10,10
在MySQL中我们通常会采用limit来进行翻页查询,比如limit(0,10)表示列出第一页的10条数据,limit(10,10)表示列出第二页。但是,当limit遇到order by的时候,可能会出现翻到第二页的时候,竟然又出现了第一页的记录。
解决:
SELECT
id AS “id”,
add_time AS “addTime”,
delete_status AS “deleteStatus”,
coupon_sn AS “couponSn”,
STATUS AS “status”,
coupon_id AS “couponId”,
user_id AS “userId”,
order_id AS “orderId”,
use_time AS “useTime”
FROM
card_coupon_info i
WHERE
i.coupon_id = ‘1339117385249742849’
AND EXISTS ( SELECT * FROM card_coupon cc WHERE cc.id = i.coupon_id )
ORDER BY
i.add_time DESC, i.id asc
LIMIT 40,10
进一步解释
执行顺序依次为 form… where… select… order by… limit…,由于上述priority queue的原因,在完成select之后,所有记录是以堆排序的方法排列的,在进行order by时,仅把view_count值大的往前移动。
但由于limit的因素,排序过程中只需要保留到5条记录即可,view_count并不具备索引有序性,所以当第二页数据要展示时,mysql见到哪一条就拿哪一条,因此,当排序值相同的时候,第一次排序是随意排的,第二次再执行该sql的时候,其结果应该和第一次结果一样。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值