基于python的mysql復(fù)制工具詳解
一 簡(jiǎn)介
python-mysql-replication 是基于python實(shí)現(xiàn)的 MySQL復(fù)制協(xié)議工具,我們可以用它來(lái)解析binlog 獲取日志的insert,update,delete等事件 ,并基于此做其他業(yè)務(wù)需求。比如數(shù)據(jù)更改時(shí)失效緩存,監(jiān)聽(tīng)dml事件通知下游業(yè)務(wù)方做對(duì)應(yīng)處理。
其項(xiàng)目信息
二 實(shí)踐
2.1 安裝配置
獲取源代碼
git clone http://www.github.com/noplay/python-mysql-replication
使用pip 安裝
pip install mysql-replication
權(quán)限: 可以直接使用復(fù)制賬號(hào)也可以使用其他賬號(hào),但是該賬號(hào)必須 SELECT, REPLICATION SLAVE, REPLICATION CLIENT 權(quán)限
GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON . TO 'replicator'@'%' IDENTIFIED BY 'xxxxx';
數(shù)據(jù)庫(kù)日志相關(guān)的參數(shù)設(shè)置如下:
log_bin=on ,binlog_format=row,binlog_row_image=FULL
2.2 核心類(lèi)介紹
python-mysql-replication 的入口是類(lèi)BinLogStreamReader(),我們?cè)谑褂迷摴ぞ邥r(shí)需要實(shí)例化一個(gè)BinLogStreamReader()對(duì)象 stream, BinLogStreamReader 通過(guò) ReportSlave 向主庫(kù)注冊(cè)作為一個(gè)slave角色,用于接受MySQL的binlog廣播 。有興趣的可以研究其代碼具體實(shí)現(xiàn)。
該實(shí)例提供解析 binlog 各種事件的集合,每個(gè)事件也是一個(gè)對(duì)象。
初始化BinLogStreamReader()實(shí)例需要使用的參數(shù)如下:
2.3 如何使用呢?
最簡(jiǎn)單的用法 腳本名 pyreplica.py
開(kāi)啟兩個(gè)窗口,一個(gè)窗口執(zhí)行,另外一個(gè)窗口操作mysql 寫(xiě)入或者修改數(shù)據(jù)
python pyreplica.py
輸出如下:
2.3 拓展
基于該工具提供的日志事件解析我們可以做很多事情,比較有名的工具 binlog2sql 利用該工具解析binlog 做數(shù)據(jù)回滾 。
mysql-replication.py
執(zhí)行腳本結(jié)果 如下圖

除了解析binlog,我們還可以用python-mysql-replication 做數(shù)據(jù)全量加增量遷移。比如僅僅遷移某些大表而不是整個(gè)庫(kù)的時(shí)候,可以用到。有興趣的朋友可以想想大概的算法。
總結(jié)
以上所述是小編給大家介紹的基于python的mysql復(fù)制工具,希望對(duì)大家有所幫助,如果大家有任何疑問(wèn)請(qǐng)給我留言,小編會(huì)及時(shí)回復(fù)大家的。在此也非常感謝大家對(duì)腳本之家網(wǎng)站的支持!
如果你覺(jué)得本文對(duì)你有幫助,歡迎轉(zhuǎn)載,煩請(qǐng)注明出處,謝謝!
- 由Python編寫(xiě)的MySQL管理工具代碼實(shí)例
- python實(shí)現(xiàn)讀取excel寫(xiě)入mysql的小工具詳解
- Python操作MySQL數(shù)據(jù)庫(kù)的簡(jiǎn)單步驟分享
- Python爬蟲(chóng)爬取全球疫情數(shù)據(jù)并存儲(chǔ)到mysql數(shù)據(jù)庫(kù)的步驟
- Python爬取騰訊疫情實(shí)時(shí)數(shù)據(jù)并存儲(chǔ)到mysql數(shù)據(jù)庫(kù)的示例代碼
- 解決python mysql insert語(yǔ)句的問(wèn)題
- python 在mysql中插入null空值的操作
- python實(shí)現(xiàn)MySQL指定表增量同步數(shù)據(jù)到clickhouse的腳本
- 用python開(kāi)發(fā)一款操作MySQL的小工具
相關(guān)文章
MySql數(shù)據(jù)庫(kù)基礎(chǔ)知識(shí)點(diǎn)總結(jié)
這篇文章主要介紹了MySql數(shù)據(jù)庫(kù)基礎(chǔ)知識(shí)點(diǎn),總結(jié)整理了mysql數(shù)據(jù)庫(kù)基本創(chuàng)建、查看、選擇、刪除以及數(shù)據(jù)類(lèi)型相關(guān)操作技巧,需要的朋友可以參考下2020-06-06
Mysql?sql?如何對(duì)行數(shù)據(jù)求和
這篇文章主要介紹了Mysql使用sql實(shí)現(xiàn)對(duì)行數(shù)據(jù)求和問(wèn)題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。2023-05-05
通過(guò)HSODBC訪問(wèn)mysql的實(shí)現(xiàn)步驟
通過(guò)HSODBC訪問(wèn)mysql的實(shí)現(xiàn)方法,需要的朋友可以參考下。2009-10-10
MySQL中如何進(jìn)行SQL調(diào)優(yōu)舉例詳解
這篇文章主要介紹了SQL調(diào)優(yōu)的幾種方法,包括合理設(shè)計(jì)索引,避免SELECT*,避免在SQL中進(jìn)行函數(shù)計(jì)算等操作,避免使用%LIKE,注意聯(lián)合索引需滿(mǎn)足最左匹配原則,不要對(duì)無(wú)索引字段進(jìn)行排序操作,文中通過(guò)代碼介紹的非常詳細(xì),需要的朋友可以參考下2025-01-01
MySQL中查詢(xún)JSON字段的實(shí)現(xiàn)示例
MySQL自5.7版本起,對(duì)JSON數(shù)據(jù)類(lèi)型提供了全面的支持,本文主要介紹了MySQL中查詢(xún)JSON字段的實(shí)現(xiàn)示例,具有一定的參考價(jià)值,感興趣的可以了解一下2024-06-06
Mysql 5.7.18 解壓版下載安裝及啟動(dòng)mysql服務(wù)的圖文詳解
這篇文章主要介紹了Mysql 5.7.18 解壓版下載安裝及啟動(dòng)mysql服務(wù)的圖文詳解,非常不錯(cuò),具有參考借鑒價(jià)值,需要的朋友可以參考下2017-05-05
SQL優(yōu)化老出錯(cuò),那是你沒(méi)弄明白MySQL解釋計(jì)劃用法
本篇文章講的是SQL優(yōu)化老出錯(cuò),那是你沒(méi)弄明白MySQL解釋計(jì)劃用法,有興趣的小伙伴速度來(lái)看看吧,希望本篇文章能夠幫助到你2021-11-11

