mysql Sort aborted: Out of sort memory, consider increasing server sort buffer size的解決方法
今天在檢查mysql服務(wù)器的時候提示Sort aborted: Out of sort memory, consider increasing server sort buffer size,安裝字面意思就是 sort內(nèi)存溢出,考慮增加服務(wù)器的排序緩沖區(qū)(sort_buffer_size)大小
sort_buffer_size=3M
join_buffer_size = 3M
下面是針對16G 內(nèi)存設(shè)置的參數(shù):
sort_buffer_size = 2M
# Sort_Buffer_Size 是一個connection級參數(shù),在每個connection(session)第一次需要使用這個buffer的時候,一次性分配設(shè)置的內(nèi)存。
#Sort_Buffer_Size 并不是越大越好,由于是connection級的參數(shù),過大的設(shè)置+高并發(fā)可能會耗盡系統(tǒng)內(nèi)存資源。例如:500個連接將會消耗 500*sort_buffer_size(8M)=4G內(nèi)存
#Sort_Buffer_Size 超過2KB的時候,就會使用mmap() 而不是 malloc() 來進行內(nèi)存分配,導(dǎo)致效率降低。
#技術(shù)導(dǎo)讀 http://blog.webshuo.com/2011/02/16/mysql-sort_buffer_size/
#dev-doc: http://dev.mysql.com/doc/refman/5.5/en/server-parameters.html
#explain select*from table where order limit;出現(xiàn)filesort
#屬重點優(yōu)化參數(shù)
不過我看到有人將sort_buffer_size設(shè)置為10M,我就是因為設(shè)置了10M,后來我設(shè)置為2-3M,就沒有問題了
Written by cenalulu @ 2010-10-26
基礎(chǔ)知識:
1、 Sort_Buffer_Size 是一個connection級參數(shù),在每個connection第一次需要使用這個buffer的時候,一次性分配設(shè)置的內(nèi)存。
2、 Sort_Buffer_Size 并不是越大越好,由于是connection級的參數(shù),過大的設(shè)置+高并發(fā)可能會耗盡系統(tǒng)內(nèi)存資源。
3、 文檔說“On Linux, there are thresholds of 256KB and 2MB where larger values may significantly slow down memory allocation”
本文主要針對第三點做測試:
據(jù)說Sort_Buffer_Size 超過2KB的時候,就會使用mmap() 而不是 malloc() 來進行內(nèi)存分配,導(dǎo)致效率降低。
環(huán)境:
為了更大的體現(xiàn)性能差距,使用 1GB內(nèi)存的Fedora 虛擬機進行測試
測試表結(jié)構(gòu):
1w 行的表, 表結(jié)構(gòu)
+-------+------------------+------+-----+---------+----------------+
| Field | Type | Null | Key | Default | Extra |
+-------+------------------+------+-----+---------+----------------+
| id | int(10) unsigned | NO | PRI | NULL | auto_increment |
| k | int(10) unsigned | NO | MUL | 0 | |
| c | char(120) | NO | | | |
| pad | char(60) | NO | | | |
+-------+------------------+------+-----+---------+----------------+
測試語句:
分別設(shè)置Sort_Buffer_Size 為 250K ,512K, 3M ,然后運行以下語句,查看運行時間。
1. sql_no_cache 防止query cache起效。
2. limit 1 為了減少排序占執(zhí)行時間的比重,更多的體現(xiàn)內(nèi)存分配帶來的影響
3. 語句explain的結(jié)果是 filesort , 以確保使用sort_buffer
mysqlslap -uroot -h127.0.0.1 -q ' select sql_no_cache * from sbtest order by pad limit 1' -c 100 --create-schema=test -i 10
測試結(jié)果:
執(zhí)行時間
250K : 1.318s
512K : 1.944s
3M : 2.412s
250 K
[root@localhost tmp]# mysqlslap -uroot -h127.0.0.1 -q ' select sql_no_cache * from sbtest order by pad limit 1' -c 100 --create-schema=test -i 10
Benchmark
Average number of seconds to run all queries: 1.318 seconds
Minimum number of seconds to run all queries: 1.285 seconds
Maximum number of seconds to run all queries: 1.378 seconds
Number of clients running queries: 100
Average number of queries per client: 1
512 K
[root@localhost tmp]# mysqlslap -uroot -h127.0.0.1 -q ' select sql_no_cache * from sbtest order by pad limit 1' -c 100 --create-schema=test -i 10
Benchmark
Average number of seconds to run all queries: 1.944 seconds
Minimum number of seconds to run all queries: 1.362 seconds
Maximum number of seconds to run all queries: 4.406 seconds
Number of clients running queries: 100
Average number of queries per client: 1
3M
[root@localhost tmp]# mysqlslap -uroot -h127.0.0.1 -q ' select sql_no_cache * from sbtest order by pad limit 1' -c 100 --create-schema=test -i 10
Benchmark
Average number of seconds to run all queries: 2.412 seconds
Minimum number of seconds to run all queries: 2.376 seconds
Maximum number of seconds to run all queries: 2.527 seconds
Number of clients running queries: 100
Average number of queries per client: 1
結(jié)論:
確實如文檔所說, 使用mmap 分配內(nèi)存時,會帶來性能上的損耗,影響大約在 30% 左右。
由于是limit 1,因此減弱了buffer size對排序速度的影響。
其實buffer size 越大,所需要進行的sort-merge的次數(shù)越少,執(zhí)行時間越短。視具體的語句而定。
我只是想說明下,并不是越大越好。 也并不存在一個絕對的最佳值。
還是要看具體的業(yè)務(wù)環(huán)境決定值的大小。 對于高并發(fā)的應(yīng)用,還是別設(shè)置太大的比較好。
- MySQL Innodb關(guān)鍵特性之插入緩沖(insert buffer)
- 詳解MySQL中的緩沖池(buffer pool)
- MySQL的查詢緩存和Buffer Pool
- mysql優(yōu)化的重要參數(shù) key_buffer_size table_cache
- 優(yōu)化mysql之key_buffer_size設(shè)置
- mysql read_buffer_size 設(shè)置多少合適
- 從MySQL的源碼剖析Innodb buffer的命中率計算
- php中mysql操作buffer用法詳解
- Mysql優(yōu)化調(diào)優(yōu)中兩個重要參數(shù)table_cache和key_buffer
- mysql Key_buffer_size參數(shù)的優(yōu)化設(shè)置
- mysqldump造成Buffer Pool污染的研究
- MySQL的join buffer原理
相關(guān)文章
winx64下mysql5.7.19的基本安裝流程(詳細(xì))
這篇文章主要介紹了winx64下mysql5.7.19的基本安裝流程,需要的朋友可以參考下2017-10-10
淺談MySQL存儲過程中declare和set定義變量的區(qū)別
下面小編就為大家?guī)硪黄獪\談MySQL存儲過程中declare和set定義變量的區(qū)別。小編覺得挺不錯的,現(xiàn)在就分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2016-12-12
MySQL中配置文件my.cnf因權(quán)限問題導(dǎo)致無法啟動的解決方法
這篇文章主要給大家介紹了關(guān)于MySQL中配置文件my.cnf因權(quán)限問題導(dǎo)致無法啟動的解決方法,該無法啟動的錯誤提示代碼是:World-writable config file '/etc/my.cnf' is ignored,文中給出了詳細(xì)的解決方法,需要的朋友們下面來一起看看吧。2017-06-06
Mysql快速插入千萬條數(shù)據(jù)的實戰(zhàn)教程
這篇文章主要給大家介紹了關(guān)于Mysql快速插入千萬條數(shù)據(jù)的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-03-03
mysql日期函數(shù)TO_DAYS()函數(shù)的詳細(xì)講解
在SQL中我們經(jīng)常需要根據(jù)時間字段查詢數(shù)據(jù),今天用到一個好用的時間字段,用來查詢一整天的數(shù)據(jù),下面這篇文章主要給大家介紹了關(guān)于mysql日期函數(shù)TO_DAYS()函數(shù)的相關(guān)資料,需要的朋友可以參考下2022-08-08
Flume如何自定義Sink數(shù)據(jù)至MySQL
Flume是分布式日志收集系統(tǒng),通過自定義Sink,可實現(xiàn)將事件數(shù)據(jù)寫入MySQL,自定義Sink需繼承AbstractSink類和實現(xiàn)Configurable接口,通過process方法處理Channel數(shù)據(jù),適用于特定數(shù)據(jù)存儲需求2024-10-10
如何解決MYSQL8.4.1 MySQL84--ERROR 1524(HY000):Plugin&n
這篇文章主要介紹了如何解決MYSQL8.4.1 MySQL84--ERROR 1524(HY000):Plugin ‘msql_native_password‘ is not loaded問題,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2024-08-08

