我的编程空间,编程开发者的网络收藏夹
学习永远不晚

mysql数据库多表关联查询的慢SQL优化

短信预约 信息系统项目管理师 报名、考试、查分时间动态提醒
省份

北京

  • 北京
  • 上海
  • 天津
  • 重庆
  • 河北
  • 山东
  • 辽宁
  • 黑龙江
  • 吉林
  • 甘肃
  • 青海
  • 河南
  • 江苏
  • 湖北
  • 湖南
  • 江西
  • 浙江
  • 广东
  • 云南
  • 福建
  • 海南
  • 山西
  • 四川
  • 陕西
  • 贵州
  • 安徽
  • 广西
  • 内蒙
  • 西藏
  • 新疆
  • 宁夏
  • 兵团
手机号立即预约

请填写图片验证码后获取短信验证码

看不清楚,换张图片

免费获取短信验证码

mysql数据库多表关联查询的慢SQL优化

mysql数据库多表关联查询的慢SQL优化

工作中我们经常用到多个left join去关联其他表查询结果,但是随着数据量的增加,一个表的数据达到百万级别后,这种普通的left join查询将非常的耗时。

举个例子:

    现在porder表有 1000W数据,其他关联的表数据都很少,因为条件的限制 必须要关联3个表,正常的逻辑就是这样写,但是我们在数据库执行的时候会发现这样的SQL 非常耗时,

  而且此时才 limit 800  这样的SQL怎么能让用户受得了呢?

        select p.*,b.supplier,t.type,c.org   from porder p 
        left JOIN brand b on p.supplier = b.supplier_id and b.mark = 0
        left JOIN purchase c on p.org = c.id and c.mark = 0
        left JOIN type t on c.category = t.type_id and t.mark = 0 
        WHERE p.nark = 0 ORDER BY p.id desc limit 800,500;

  通过查询SQL优化方面的知识,发现一种比较好的优化方案:

        select p.*,b.supplier,t.type,c.org from
        (select po.id from porder po where po.mark = 0 order by po.id desc limit 800000,500) a
        inner join porder p on a.id = p.id and p.mark = 0
        left JOIN brand b on p.supplier = b.supplier_id and b.mark = 0
        left JOIN purchase c on p.org = c.id and c.mark = 0
        left JOIN type t on c.category = t.type_id and t.mark = 0;

  我们可以先将数据量最大表的满足条件的ID查询出来,创建临时表,再用这个临时表去关联这个表本身以及其他表。limit80W 也就1S时间。

SQL分析:

  我们可以使用 explain 查看上面2种SQL的执行计划。第一种SQL的执行计划中 通过 row 和extra 都可以看出 非常差,row几乎为全部扫描。

  优化后的SQL通过 row 和extra 都可以看出都是很好的状态,row的数据是第一种的 1%。相当于提升了 100倍。

  执行计划中的id列的数值越大,执行权就越高。id列的值相等的,就从上之下依次执行。明白了这一点,我们就可以再分析SQL了。

  数据库先执行了 select po.id from porder po where po.mark = 0 order by po.id desc limit 800000,500 这段SQL,将查询出的有效id(满足条件的id)放在了临时表a中,

  然后表a 再与其他的表匹配查询。

  (注:优先执行的SQL 不参与 后面的表匹配。这里要理解,不然单独看执行计划,你会纳闷为何row列上 a表 中数值小,而 id列为2的表(po) row列的数值也很大。

  你也可以拆分SQL。优先执行的SQL 单独拿出来执行,将查询到的结果当作查询条件,传给普通的 left join 中的where条件里面 即 in(), in的里面不要写SQL查询,必须是明确的数值!)

我只是提供方法,具体的原理,大家可以上网查一查。数据库有一种叫 驱动表的概念,大家可以了解下。或许对于理解这种方法更方便!

  注:这个优化后的SQL在执行 limit1000000,**  的时候效率也就下降了,大概4S钟以上。所以这个SQL也是有极限的,对于分页查询等等,如果数据量超过100W 要注意!

希望有大神,能在SQL上能有更高的突破,有方法的,希望大家一起分享,一起学习。谢谢~

  补:为了应对超过百万级别的查询,或者导出,SQL优化暂时没有好的办法,但是我们可以在传参上做文章。

比如分页查询时,每页展示20条数据,首页查询时,我们可以得到首页最后一条数据的ID (起名:lastId)(按ID排序,降序),当点击第2页时,我们可以将 lastId 作为参数传入分页查询的SQL中。

这样分页时就加上了一个条件 就是 ID (按ID排序,降序),limit也可以优化成   limit 20, 这样优化后,因为limit 不再是 limit xxx,20 ,这样数据库在扫描满足条件的数据时,就会从此ID往后扫描,

且扫描到满足条件的20条后,就不会再多扫描,大大减少了扫描的数据量,自然也就提升了效率。

 

 

 

单表查询优化:

1、下面语句需要10秒

SELECT * FROM library_sample 
WHERE create_date >= "2019-11-01 00:00:00"
    AND 
create_date < "2019-12-01 00:00:00"
    ORDER BY id ASC
LIMIT 1500000, 2000

2、优化后需要1秒,提升10倍

SELECT * FROM 
(SELECT id FROM library_sample
WHERE create_date >= "2019-11-01 00:00:00"
    AND 
create_date < "2019-12-01 00:00:00"
    ORDER BY id ASC
LIMIT 1500000, 2000) o
INNER JOIN library_sample a ON a.id = o.id

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

mysql数据库多表关联查询的慢SQL优化

下载Word文档到电脑,方便收藏和打印~

下载Word文档

猜你喜欢

mysql数据库多表关联查询的慢SQL优化

工作中我们经常用到多个left join去关联其他表查询结果,但是随着数据量的增加,一个表的数据达到百万级别后,这种普通的left join查询将非常的耗时。 举个例子:     现在porder表有 1000W数据,其他关联的表数据都很少,因为条件的限制 必
mysql数据库多表关联查询的慢SQL优化
2017-02-16

mysql多表关联查询优化的方法是什么

在优化MySQL多表关联查询时,可以采取以下方法:确保表中的相关字段有索引:在进行多表关联查询时,通常会使用到相关字段进行连接操作,因此需要确保这些字段在每个表中都有索引。通过为这些字段创建索引可以提高查询的性能。使用合适的连接方式:在多表
mysql多表关联查询优化的方法是什么
2024-04-09

Mysql数据库慢查询常用优化方式

目录慢查询日志概念一、数据库中设置SQL慢查询1、mysql慢查询相关配置参数介绍2、实现配置步骤二、分析慢查询日志三、常见的慢查询优化1、索引没起作用的情况2、优化数据库结构3、分解关联查询4、优化LIMIT分页四、常用优化方法1. SQ
2023-05-05

MySQL数据库多表联合查询代码示例

MySQL多表联合查询允许从多个表中提取数据。语法为SELECT...FROMtable1JOINtable2ON...。示例:获取每个客户的订单总金额:SELECTc.name,SUM(o.total_amount)FROMcustomerscJOINordersoONc.id=o.customer_idGROUPBYc.name;。其他联合类型包括INNERJOIN、LEFTJOIN、RIGHTJOIN和FULLOUTERJOIN。性能提示包括使用索引、优化连接条件、避免模糊查询和考虑使用子查询。
MySQL数据库多表联合查询代码示例
2024-04-02

MySQL 多表关联一对多查询取最新的一条数据

SQL语句  SELECT SQL_CALC_FOUND_ROWS* FROMtableA aLEFT JOIN (SELECTBC.* FROM( SELECT MAX( id ) AS cid FROM tableB GROUP BY code ) ACL
MySQL 多表关联一对多查询取最新的一条数据
2014-05-20

MySQL数据库多表操作通关指南(外键约束和多表联合查询)

目录1 多表关系2 外键约束(FOREIGN KEY)2.1 外键约束说明2.2 外键约束的创建2.3 外键约束实操:一对多关系2.4 删除外键约束2.5 外键约束实操:多对多关系3 多表联合查询3.1 联合查询的简介和分类3.2 联合查询
2022-06-14

mysql数据库表的多条件查询

mysql数据库表的多条件查询 一、select语句基本查询 SELECT 字段1,字段2....FROM 表名[WHERE 条件] [LIMIT N][ OFFSET M] select可以返回多条数据也可以返回一条数据如果要查询所有的字
2023-08-22

sql数据库多表查询的方法是什么

在SQL中,可以通过使用JOIN关键字来进行多表查询。JOIN操作允许将多个表连接起来,根据表之间的关系进行数据的检索和过滤。常见的JOIN操作包括:1. INNER JOIN:只返回两个表中匹配的行。2. LEFT JOIN:返回左表中的
2023-10-08

Mysql 如何实现多张无关联表查询数据并分页

Mysql 多张无关联表查询数据并分页 功能需求 在三张没有主外键关联的表中取出自己想要的数据,并且分页。 数据库表结构 水果表:坚果表: 饮料表:数据库随便建的,重在方法。 主要使用UNION ALL 操作符 UNION ALL 操作
2022-06-01

Sql Server一个表向另一个表添加多条数据,关联时查询出一条数据

废话不多说 !!!我的需求是这样的,一条信息可以有多个部门验收,当所有的部门验收完成之后呢,才把最后验收的那条数据显示出来。直接看表结构  以上就是三张表分别查询出来的数据,注意标红的地方才是重点。添加的数据时,分别先添加 BT_ReleaseAuditor
Sql Server一个表向另一个表添加多条数据,关联时查询出一条数据
2021-08-26

编程热搜

目录