MySQL優(yōu)化案例系列-mysql分頁(yè)優(yōu)化
通常，我們會(huì)采用ORDER BY LIMIT start, offset 的方式來(lái)進(jìn)行分頁(yè)查詢。例如下面這個(gè)SQL：
SELECT * FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 100, 10;
或者像下面這個(gè)不帶任何條件的分頁(yè)SQL：
SELECT * FROM `t1` ORDER BY id DESC LIMIT 100, 10;
一般而言，分頁(yè)SQL的耗時(shí)隨著 start 值的增加而急劇增加，我們來(lái)看下面這2個(gè)不同起始值的分頁(yè)SQL執(zhí)行耗時(shí)：
yejr@imysql.com> SELECT * FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 500, 10; … 10 rows in set (0.05 sec) yejr@imysql.com> SELECT * FROM `t1` WHERE ftype=6 ORDER BY id DESC LIMIT 935500, 10; … 10 rows in set (2.39 sec)
可以看到，隨著分頁(yè)數(shù)量的增加，SQL查詢耗時(shí)也有數(shù)十倍增加，顯然不科學(xué)。今天我們就來(lái)分析下，如何能優(yōu)化這個(gè)分頁(yè)方案。 一般滴，想要優(yōu)化分頁(yè)的終極方案就是：沒(méi)有分頁(yè)，哈哈哈~~~，不要說(shuō)我講廢話，確實(shí)如此，可以把分頁(yè)算法交給Sphinx、Lucence等第三方解決方案，沒(méi)必要讓MySQL來(lái)做它不擅長(zhǎng)的事情。 當(dāng)然了，有小伙伴說(shuō)，用第三方太麻煩了，我們就想用MySQL來(lái)做這個(gè)分頁(yè)，咋辦呢？莫急，且待我們慢慢分析，先看下表DDL、數(shù)據(jù)量、查詢SQL的執(zhí)行計(jì)劃等信息：
yejr@imysql.com> SHOW CREATE TABLE `t1`; CREATE TABLE `t1` ( `id` int(10) unsigned NOT NULL AUTO_INCREMENT, ... `ftype` tinyint(3) unsigned NOT NULL, ... PRIMARY KEY (`id`) ) ENGINE=InnoDB DEFAULT CHARSET=utf8; yejr@imysql.com> select count(*) from t1; +----------+ | count(*) | +----------+ | 994584 | +----------+ yejr@imysql.com> EXPLAIN SELECT * FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 500, 10\G *************************** 1. row *************************** id: 1 select_type: SIMPLE table: t1 type: index possible_keys: NULL key: PRIMARY key_len: 4 ref: NULL rows: 510 Extra: Using where yejr@imysql.com> EXPLAIN SELECT * FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 935500, 10\G *************************** 1. row *************************** id: 1 select_type: SIMPLE table: t1 type: index possible_keys: NULL key: PRIMARY key_len: 4 ref: NULL rows: 935510 Extra: Using where
可以看到，雖然通過(guò)主鍵索引進(jìn)行掃描了，但第二個(gè)SQL需要掃描的記錄數(shù)太大了，而且需要先掃描約935510條記錄，然后再根據(jù)排序結(jié)果取10條記錄，這肯定是非常慢了。 針對(duì)這種情況，我們的優(yōu)化思路就比較清晰了，有兩點(diǎn)：
1、盡可能從索引中直接獲取數(shù)據(jù)，避免或減少直接掃描行數(shù)據(jù)的頻率
2、盡可能減少掃描的記錄數(shù)，也就是先確定起始的范圍，再往后取N條記錄即可
據(jù)此，我們有兩種相應(yīng)的改寫(xiě)方法：子查詢、表連接，即下面這樣的：
#采用子查詢的方式優(yōu)化，在子查詢里先從索引獲取到最大id，然后倒序排，再取10行結(jié)果集
#注意這里采用了2次倒序排，因此在取LIMIT的start值時(shí)，比原來(lái)的值加了10，即935510，否則結(jié)果將和原來(lái)的不一致
yejr@imysql.com> EXPLAIN SELECT * FROM (SELECT * FROM `t1` WHERE id > ( SELECT id FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 935510, 1) LIMIT 10) t ORDER BY id DESC\G *************************** 1. row *************************** id: 1 select_type: PRIMARY table: <derived2> type: ALL possible_keys: NULL key: NULL key_len: NULL ref: NULL rows: 10 Extra: Using filesort *************************** 2. row *************************** id: 2 select_type: DERIVED table: t1 type: ALL possible_keys: PRIMARY key: NULL key_len: NULL ref: NULL rows: 973192 Extra: Using where *************************** 3. row *************************** id: 3 select_type: SUBQUERY table: t1 type: index possible_keys: NULL key: PRIMARY key_len: 4 ref: NULL rows: 935511 Extra: Using where #采用INNER JOIN優(yōu)化，JOIN子句里也優(yōu)先從索引獲取ID列表，然后直接關(guān)聯(lián)查詢獲得最終結(jié)果，這里不需要加10 yejr@imysql.com> EXPLAIN SELECT * FROM `t1` INNER JOIN ( SELECT id FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 935500,10) t2 USING (id)\G *************************** 1. row *************************** id: 1 select_type: PRIMARY table: <derived2> type: ALL possible_keys: NULL key: NULL key_len: NULL ref: NULL rows: 935510 Extra: NULL *************************** 2. row *************************** id: 1 select_type: PRIMARY table: t1 type: eq_ref possible_keys: PRIMARY key: PRIMARY key_len: 4 ref: t2.id rows: 1 Extra: NULL *************************** 3. row *************************** id: 2 select_type: DERIVED table: t1 type: index possible_keys: NULL key: PRIMARY key_len: 4 ref: NULL rows: 973192 Extra: Using where
然后我們來(lái)對(duì)比下這2個(gè)優(yōu)化后的新SQL執(zhí)行時(shí)間：
yejr@imysql.com> SELECT * FROM (SELECT * FROM `t1` WHERE id > ( SELECT id FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 935510, 1) LIMIT 10) T ORDER BY id DESC; ... rows in set (1.86 sec) #采用子查詢優(yōu)化，從profiling的結(jié)果來(lái)看，相比原來(lái)的那個(gè)SQL快了：28.2% yejr@imysql.com> SELECT * FROM `t1` INNER JOIN ( SELECT id FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 935500,10) t2 USING (id); ... 10 rows in set (1.83 sec) #采用INNER JOIN優(yōu)化，從profiling的結(jié)果來(lái)看，相比原來(lái)的那個(gè)SQL快了：30.8%
我們?cè)賮?lái)看一個(gè)不帶過(guò)濾條件的分頁(yè)SQL對(duì)比：
#原始SQL yejr@imysql.com> EXPLAIN SELECT * FROM `t1` ORDER BY id DESC LIMIT 935500, 10\G *************************** 1. row *************************** id: 1 select_type: SIMPLE table: t1 type: index possible_keys: NULL key: PRIMARY key_len: 4 ref: NULL rows: 935510 Extra: NULL yejr@imysql.com> SELECT * FROM `t1` ORDER BY id DESC LIMIT 935500, 10; ... 10 rows in set (2.22 sec) #采用子查詢優(yōu)化 yejr@imysql.com> EXPLAIN SELECT * FROM (SELECT * FROM `t1` WHERE id > ( SELECT id FROM `t1` ORDER BY id DESC LIMIT 935510, 1) LIMIT 10) t ORDER BY id DESC; *************************** 1. row *************************** id: 1 select_type: PRIMARY table: <derived2> type: ALL possible_keys: NULL key: NULL key_len: NULL ref: NULL rows: 10 Extra: Using filesort *************************** 2. row *************************** id: 2 select_type: DERIVED table: t1 type: ALL possible_keys: PRIMARY key: NULL key_len: NULL ref: NULL rows: 973192 Extra: Using where *************************** 3. row *************************** id: 3 select_type: SUBQUERY table: t1 type: index possible_keys: NULL key: PRIMARY key_len: 4 ref: NULL rows: 935511 Extra: Using index yejr@imysql.com> SELECT * FROM (SELECT * FROM `t1` WHERE id > ( SELECT id FROM `t1` ORDER BY id DESC LIMIT 935510, 1) LIMIT 10) t ORDER BY id DESC; … 10 rows in set (2.01 sec) #采用子查詢優(yōu)化，從profiling的結(jié)果來(lái)看，相比原來(lái)的那個(gè)SQL快了：10.6% #采用INNER JOIN優(yōu)化 yejr@imysql.com> EXPLAIN SELECT * FROM `t1` INNER JOIN ( SELECT id FROM `t1`ORDER BY id DESC LIMIT 935500,10) t2 USING (id)\G *************************** 1. row *************************** id: 1 select_type: PRIMARY table: type: ALL possible_keys: NULL key: NULL key_len: NULL ref: NULL rows: 935510 Extra: NULL *************************** 2. row *************************** id: 1 select_type: PRIMARY table: t1 type: eq_ref possible_keys: PRIMARY key: PRIMARY key_len: 4 ref: t1.id rows: 1 Extra: NULL *************************** 3. row *************************** id: 2 select_type: DERIVED table: t1 type: index possible_keys: NULL key: PRIMARY key_len: 4 ref: NULL rows: 973192 Extra: Using index yejr@imysql.com> SELECT * FROM `t1` INNER JOIN ( SELECT id FROM `t1`ORDER BY id DESC LIMIT 935500,10) t2 USING (id); … 10 rows in set (1.70 sec) #采用INNER JOIN優(yōu)化，從profiling的結(jié)果來(lái)看，相比原來(lái)的那個(gè)SQL快了：30.2%
至此，我們看到采用子查詢或者INNER JOIN進(jìn)行優(yōu)化后，都有大幅度的提升，這個(gè)方法也同樣適用于較小的分頁(yè)，雖然LIMIT開(kāi)始的 start 位置小了很多，SQL執(zhí)行時(shí)間也快了很多，但采用這種方法后，帶WHERE條件的分頁(yè)分別能提高查詢效率：24.9%、156.5%，不帶WHERE條件的分頁(yè)分別提高查詢效率：554.5%、11.7%，各位可以自行進(jìn)行測(cè)試驗(yàn)證。單從提升比例說(shuō)，還是挺可觀的，確保這些優(yōu)化方法可以適用于各種分頁(yè)模式，就可以從一開(kāi)始就是用。 我們來(lái)看下各種場(chǎng)景相應(yīng)的提升比例是多少：
| 大分頁(yè)，帶WHERE | 大分頁(yè)，不帶WHERE | 大分頁(yè)平均提升比例 | 小分頁(yè)，帶WHERE | 小分頁(yè)，不帶WHERE | 總體平均提升比例 | |
| 子查詢優(yōu)化 | 28.20% | 10.60% | 19.40% | 24.90% | 554.40% | 154.53% |
| INNER JOIN優(yōu)化 | 30.80% | 30.20% | 30.50% | 156.50% | 11.70% | 57.30% |
結(jié)論：這樣看就和明顯了，尤其是針對(duì)大分頁(yè)的情況，因此我們優(yōu)先推薦使用INNER JOIN方式優(yōu)化分頁(yè)算法。
上述每次測(cè)試都重啟mysqld實(shí)例，并且加了SQL_NO_CACHE，以保證每次都是直接數(shù)據(jù)文件或索引文件中讀取。如果數(shù)據(jù)經(jīng)過(guò)預(yù)熱后，查詢效率會(huì)一定程度提升，但但上述相應(yīng)的效率提升比例還是基本一致的。
2014/07/28后記更新：
其實(shí)如果是不帶任何條件的分頁(yè)，就沒(méi)必要用這么麻煩的方法了，可以采用對(duì)主鍵采用范圍檢索的方法，例如參考這篇：Advance for MySQL Pagination
- MySql分頁(yè)時(shí)使用limit+order by會(huì)出現(xiàn)數(shù)據(jù)重復(fù)問(wèn)題解決
- 為什么MySQL分頁(yè)用limit會(huì)越來(lái)越慢
- mysql分頁(yè)的limit參數(shù)簡(jiǎn)單示例
- 淺談MySQL分頁(yè)Limit的性能問(wèn)題
- MySQL分頁(yè)Limit的優(yōu)化過(guò)程實(shí)戰(zhàn)
- mysql分頁(yè)性能探索
- 淺析Oracle和Mysql分頁(yè)的區(qū)別
- SpringMVC+Mybatis實(shí)現(xiàn)的Mysql分頁(yè)數(shù)據(jù)查詢的示例
- 利用Spring MVC+Mybatis實(shí)現(xiàn)Mysql分頁(yè)數(shù)據(jù)查詢的過(guò)程詳解
- mysql分頁(yè)時(shí)offset過(guò)大的Sql優(yōu)化經(jīng)驗(yàn)分享
- MySQL分頁(yè)分析原理及提高效率
- 你應(yīng)該知道的PHP+MySQL分頁(yè)那點(diǎn)事
- MYSQL分頁(yè)limit速度太慢的優(yōu)化方法
- MySQL分頁(yè)優(yōu)化
- MySQL分頁(yè)技術(shù)、6種分頁(yè)方法總結(jié)
- 8種MySQL分頁(yè)方法總結(jié)
- mysql分頁(yè)原理和高效率的mysql分頁(yè)查詢語(yǔ)句
- MySQL的幾種分頁(yè)方式，你知道幾種方式
相關(guān)文章
解決從集合運(yùn)算到mysql的not like找不出NULL的問(wèn)題
這篇文章主要介紹了解決從集合運(yùn)算到mysql的not like找不出NULL的問(wèn)題，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2021-01-01
MySQL索引類(lèi)型總結(jié)和使用技巧以及注意事項(xiàng)
索引是快速搜索的關(guān)鍵。MySQL索引的建立對(duì)于MySQL的高效運(yùn)行是很重要的。下面介紹幾種常見(jiàn)的MySQL索引類(lèi)型2014-04-04
這篇文章主要為大家介紹了ubuntu20安裝配置mysql8.0.23步驟詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪2023-05-05
MySQL中日期和時(shí)間戳轉(zhuǎn)換之字符到DATE和TIMESTAMP的相互轉(zhuǎn)換
這篇文章主要介紹了MySQL中日期和時(shí)間戳轉(zhuǎn)換之字符到DATE和TIMESTAMP相互轉(zhuǎn)換的相關(guān)資料,包括字符串與日期/時(shí)間類(lèi)型之間的轉(zhuǎn)換,日期/時(shí)間類(lèi)型之間的轉(zhuǎn)換,UNIX_TIMESTAMP與日期/時(shí)間類(lèi)型之間的轉(zhuǎn)換以及時(shí)區(qū)轉(zhuǎn)換,需要的朋友可以參考下2024-12-12
為什么MySQL 刪除表數(shù)據(jù) 磁盤(pán)空間還一直被占用
這篇文章主要討論為什么MySQL 刪除表數(shù)據(jù) 磁盤(pán)空間還一直被占用，項(xiàng)目中使用Mysql作為數(shù)據(jù)庫(kù)，對(duì)于表來(lái)說(shuō)，一般為表結(jié)構(gòu)和表數(shù)據(jù)。表結(jié)構(gòu)占用空間都是比較小的，一般都是表數(shù)據(jù)占用的空間。接下來(lái)小編就和大家一起進(jìn)入下面文章內(nèi)容的學(xué)習(xí)2021-10-10
這篇文章主要介紹了MySQL使用Xtrabackup備份流程詳解，幫助大家更好的理解和學(xué)習(xí)使用MySQL，感興趣的朋友可以了解下2021-03-03
一文詳解Mysql?insert也會(huì)發(fā)生死鎖嗎
死鎖的本質(zhì)是資源競(jìng)爭(zhēng),批量插入如果順序不一致很容易導(dǎo)致死鎖,這篇文章主要給大家介紹了關(guān)于Mysql?insert是否也會(huì)發(fā)生死鎖的相關(guān)資料,文中通過(guò)代碼介紹的非常詳細(xì),需要的朋友可以參考下2024-02-02
解決Mysql收縮事務(wù)日志和日志文件過(guò)大無(wú)法收縮問(wèn)題
這篇文章主要介紹了解決Mysql收縮事務(wù)日志和日志文件過(guò)大無(wú)法收縮問(wèn)題,非常不錯(cuò)，具有參考借鑒價(jià)值，需要的朋友可以參考下2017-08-08
MYSQL復(fù)雜查詢練習(xí)題以及答案大全(難度適中)
在我們學(xué)習(xí)mysql數(shù)據(jù)庫(kù)時(shí)需要一些題目進(jìn)行練習(xí),下面這篇文章主要給大家介紹了關(guān)于MYSQL復(fù)雜查詢練習(xí)題以及答案的相關(guān)資料,文中通過(guò)實(shí)例代碼介紹的非常詳細(xì),這些練習(xí)題難度適中,需要的朋友可以參考下2022-08-08
這篇文章主要介紹了幾款MySQL相關(guān)工具的相關(guān)資料，幫助大家更好的使用和維護(hù)MySQL 數(shù)據(jù)庫(kù)，感興趣的朋友可以了解下2020-11-11