mysql同步問題之Slave延遲很大優(yōu)化方法
一般而言,slave相對(duì)master延遲較大,其根本原因就是slave上的復(fù)制線程沒辦法真正做到并發(fā)。簡(jiǎn)單說,在master上是并發(fā)模式(以InnoDB引擎為主)完成事務(wù)提交的,而在slave上,復(fù)制線程只有一個(gè)sql thread用于binlog的apply,所以難怪slave在高并發(fā)時(shí)會(huì)遠(yuǎn)落后master。
ORACLE MySQL 5.6版本開始支持多線程復(fù)制,配置選項(xiàng) slave_parallel_workers 即可實(shí)現(xiàn)在slave上多線程并發(fā)復(fù)制。不過,它只能支持一個(gè)實(shí)例下多個(gè) database 間的并發(fā)復(fù)制,并不能真正做到多表并發(fā)復(fù)制。因此在較大并發(fā)負(fù)載時(shí),slave還是沒有辦法及時(shí)追上master,需要想辦法進(jìn)行優(yōu)化。
另一個(gè)重要原因是,傳統(tǒng)的MySQL復(fù)制是異步(asynchronous)的,也就是說在master提交完后,才在slave上再應(yīng)用一遍,并不是真正意義上的同步。哪怕是后來(lái)的Semi-sync Repication(半同步復(fù)制),也不是真同步,因?yàn)樗槐WC事務(wù)傳送到slave,但沒要求等到確認(rèn)事務(wù)提交成功。既然是異步,那肯定多少會(huì)有延遲。因此,嚴(yán)格意義上講,MySQL復(fù)制不能叫做MySQL同步(處女座的面試官有可能會(huì)在面試時(shí)把說成MySQL同步的一律刷掉哦)。
另外,不少人的觀念里,slave相對(duì)沒那么重要,因此就不會(huì)提供和master相同配置級(jí)別的服務(wù)器。有的甚至不但使用更差的服務(wù)器,而且還在上面跑多實(shí)例。
綜合這兩個(gè)主要原因,slave想要盡可能及時(shí)跟上master的進(jìn)度,可以嘗試采用以下幾種方法:
1、采用MariaDB發(fā)行版,它實(shí)現(xiàn)了相對(duì)真正意義上的并行復(fù)制,其效果遠(yuǎn)比ORACLE MySQL好的很多。在我的場(chǎng)景中,采用MariaDB作為slave的實(shí)例,幾乎總是能及時(shí)跟上master。如果不想用這個(gè)版本的話,那就老實(shí)等待官方5.7大版本發(fā)布吧;
關(guān)于MariaDB的Parallel Replication具體請(qǐng)參考:Replication and Binary Log Server System Variables#slave_parallel_threads – MariaDB Knowledge Base
2、每個(gè)表都要顯式指定主鍵,如果沒有指定主鍵的話,會(huì)導(dǎo)致在row模式下,每次修改都要全表掃描,尤其是大表就非??膳铝?,延遲會(huì)更嚴(yán)重,甚至導(dǎo)致整個(gè)slave庫(kù)都被掛起,可參考案例:mysql主鍵的缺少導(dǎo)致備庫(kù)hang;
3、應(yīng)用程序端多做些事,讓MySQL端少做事,尤其是和IO相關(guān)的活動(dòng),例如:前端通過內(nèi)存CACHE或者本地寫隊(duì)列等,合并多次讀寫為一次,甚至消除一些寫請(qǐng)求;
4、進(jìn)行合適的分庫(kù)、分表策略,減小單庫(kù)單表復(fù)制壓力,避免由于單庫(kù)單表的的壓力導(dǎo)致整個(gè)實(shí)例的復(fù)制延遲;
其他提高IOPS性能的幾種方法,根據(jù)效果優(yōu)劣,我做了個(gè)簡(jiǎn)單排序:
1、更換成SSD,或者PCIe SSD等IO設(shè)備,其IOPS能力的提升是普通15K SAS盤的數(shù)以百倍、萬(wàn)倍,甚至幾十萬(wàn)倍計(jì);
2、加大物理內(nèi)存,相應(yīng)提高InnoDB Buffer Pool大小,讓更多熱數(shù)據(jù)放在內(nèi)存中,降低發(fā)生物理IO的頻率;
3、調(diào)整文件系統(tǒng)為 XFS 或 ReiserFS,相比ext3可以極大程度提高IOPS能力。在高IOPS壓力下,相比ext4有更穩(wěn)健的IOPS表現(xiàn)(有人認(rèn)為 XFS 在特別的場(chǎng)景下會(huì)有很大的問題,但我們除了剩余磁盤空間少于10%時(shí)引發(fā)丟數(shù)據(jù)外,其他的尚未遇到);
4、調(diào)整RAID級(jí)別為raid 1+0,它相比raid1、raid5等更能提高IOPS性能。如果已經(jīng)全部是SSD設(shè)備了,可以2塊盤做成RAID 1,或者多快盤做成RAID 5(并且可以設(shè)置全局熱備盤,提高陣列容錯(cuò)性),甚至有些土豪用戶直接將多塊SSD盤組成RAID 50;
5、調(diào)整RAID的寫cache策略為WB或FORCE WB,詳情請(qǐng)參考:常用PC服務(wù)器陣列卡、硬盤健康監(jiān)控 以及 PC服務(wù)器陣列卡管理簡(jiǎn)易手冊(cè);
6、調(diào)整內(nèi)核的io scheduler,優(yōu)先使用deadline,如果是SSD,則可以使用noop策略,相比默認(rèn)的cfq,個(gè)別情況下對(duì)IOPS的性能提升至少是數(shù)倍的。
其他更多方法,歡迎大家?guī)兔ρa(bǔ)充 :)
- 解決MySQL中的Slave延遲問題的基本教程
- MySQL中slave監(jiān)控的延遲情況分析
- mysql 主從數(shù)據(jù)不一致,提示: Slave_SQL_Running: No 的解決方法
- 記一次MySQL Slave庫(kù)恢復(fù)實(shí)戰(zhàn)記錄
- Mysql主從數(shù)據(jù)庫(kù)(Master/Slave)同步配置與常見錯(cuò)誤
- MySQL中slave_exec_mode參數(shù)詳解
- MySQL5.6 數(shù)據(jù)庫(kù)主從同步安裝與配置詳解(Master/Slave)
- MySQL Slave 觸發(fā) oom-killer解決方法
- MySQL slave 延遲一列 外鍵檢查和自增加鎖
相關(guān)文章
解決Mysql同步到ES時(shí)date和time字段類型轉(zhuǎn)換問題
這篇文章主要介紹了Mysql同步到ES時(shí)date和time字段類型轉(zhuǎn)換問題解決辦法,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2023-07-07
mysql數(shù)據(jù)庫(kù)索引損壞及修復(fù)經(jīng)驗(yàn)分享
這篇文章主要介紹了mysql數(shù)據(jù)庫(kù)索引損壞及修復(fù)經(jīng)驗(yàn)分享,需要的朋友可以參考下2015-06-06
MySQL從MyISAM轉(zhuǎn)換成InnoDB錯(cuò)誤與常用解決辦法
由于一些程序的要求,需要MyISAM數(shù)據(jù)引擎或InnoDB,下面是具體的解決方法,經(jīng)測(cè)試偶爾會(huì)出現(xiàn)一些問題。2011-05-05
關(guān)于MySQL與Golan分布式事務(wù)經(jīng)典的七種解決方案
本文介紹了分布式事務(wù)的一些基礎(chǔ)理論,并對(duì)常用的分布式事務(wù)方案進(jìn)行了講解;在文章的后半部分還給出了事務(wù)異常的原因、分類以及優(yōu)雅的解決方案;最后以一個(gè)可運(yùn)行的分布式事務(wù)例子,將前面介紹的內(nèi)容以簡(jiǎn)短的程序進(jìn)行演示,需要的朋友可以參考一下文章具體內(nèi)容2021-10-10
mysql分區(qū)表學(xué)習(xí)之日期分區(qū)
這篇文章主要給大家介紹了關(guān)于mysql分區(qū)表學(xué)習(xí)之日期分區(qū)的相關(guān)資料,分區(qū)是一種表的設(shè)計(jì)模式,通俗地講表分區(qū)是將一大表,根據(jù)條件分割成若干個(gè)小表,需要的朋友可以參考下2023-08-08

