我的编程空间,编程开发者的网络收藏夹
学习永远不晚

小心避坑:MySQL分页时出现的数据重复问题

短信预约 -IT技能 免费直播动态提醒
省份

北京

  • 北京
  • 上海
  • 天津
  • 重庆
  • 河北
  • 山东
  • 辽宁
  • 黑龙江
  • 吉林
  • 甘肃
  • 青海
  • 河南
  • 江苏
  • 湖北
  • 湖南
  • 江西
  • 浙江
  • 广东
  • 云南
  • 福建
  • 海南
  • 山西
  • 四川
  • 陕西
  • 贵州
  • 安徽
  • 广西
  • 内蒙
  • 西藏
  • 新疆
  • 宁夏
  • 兵团
手机号立即预约

请填写图片验证码后获取短信验证码

看不清楚,换张图片

免费获取短信验证码

小心避坑:MySQL分页时出现的数据重复问题

全文链接: https://www.modb.pro/db/23201 

0 问题描述

在MySQL中我们通常会采用limit来进行翻页查询,比如limit(0,10)表示列出第一页的10条数据,limit(10,10)表示列出第二页。但是,当limit遇到order by的时候,可能会出现翻到第二页的时候,竟然又出现了第一页的记录。
具体如下:


SELECT

   `post_title`,
   `post_date`
FROM
  post
WHERE
   `post_status` =  'publish'
ORDER  BY
  view_count  desc
LIMIT
   5,  5

使用上述SQL查询的时候,很有可能出现和LIMIT 0,5相同的某条记录。而如果使用如下方式,则不会出现重复的情况:


SELECT

  *
FROM
  post
WHERE
  post_status =  'publish'
ORDER  BY
  view_count  desc
LIMIT
   5,  5

但是,由于post表的字段很多,仅仅希望用这两个字段,不想把post_content也查出来。为了解决这个情况,在ORDER BY后面使用了两个排序条件来解决这个问题,如下:


SELECT

   `post_title`,
   `post_date`
FROM
  post
WHERE
   `post_status` =  'publish'
ORDER  BY
  view_count  desc,
   ID  asc
LIMIT
   5,  5

按理来说,MySQL的排序默认情况下是以主键ID作为排序条件的,也就是说,如果在view_count相等的情况下,主键ID作为默认的排序条件,不需要我们多此一举加ID asc。 但是事实就是,MySQL再order by和limit混用的时候,出现了排序的混乱情况。

1 分析问题

在MySQL 5.6的版本上,优化器在遇到order by limit语句的时候,做了一个优化,即 使用了priority queue。
使用 priority queue 的目的, 就是在不能使用索引有序性的时候,如果要排序,并且使用了limit n,那么只需要在排序的过程中,保留n条记录即可,这样虽然不能解决所有记录都需要排序的开销,但是 只需要 sort buffer 少量的内存就可以完成排序
之所以MySQL 5.6出现了第二页数据重复的问题, 是因为 priority queue 使用了堆排序的排序方法,而堆排序是一个不稳定的排序方法,也就是相同的值可能排序出来的结果和读出来的数据顺序不一致。
MySQL 5.5 没有这个优化,所以也就不会出现这个问题。
也就是说,MySQL 5.5是不存在本文提到的问题的,5.6版本之后才出现了这种情况。
再看下MySQL解释sql语言时的执行顺序:

(1)     
SELECT 

( 2)      DISTINCT <select_list>
( 3)      FROM <left_table>
( 4)     <join_type>  JOIN <right_table>
( 5)      ON <join_condition>
( 6)      WHERE <where_condition>
( 7)      GROUP  BY <group_by_list>
( 8)      HAVING <having_condition>
( 9)      ORDER  BY <order_by_condition>
( 10)     LIMIT <limit_number>

执行顺序依次为 form… where… select… order by… limit…,由于上述priority queue的原因,在完成select之后,所有记录是以堆排序的方法排列的,在进行order by时,仅把view_count值大的往前移动。
但由于limit的因素,排序过程中只需要保留到5条记录即可,view_count并不具备索引有序性,所以当第二页数据要展示时,mysql见到哪一条就拿哪一条,因此,当排序值相同的时候,第一次排序是随意排的,第二次再执行该sql的时候,其结果应该和第一次结果一样。

......

查看全文请点击文章顶部链接

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

小心避坑:MySQL分页时出现的数据重复问题

下载Word文档到电脑,方便收藏和打印~

下载Word文档

猜你喜欢

MySql分页时使用limit+order by会出现数据重复问题解决

目录摘要问题描述分析问题解决问题摘要能把复杂的知识讲的简单很重要在学习的过程中我们看过很多资料、视频、文档等,因为现在资料视频都较多所以往往一个知识点会有多种多样的视频形式讲解。除了推广营销以外,确实有很多人的视频讲解非常优秀,例如李永乐老
2022-05-15

编程热搜

目录