從MySQL到Redis的簡單數(shù)據(jù)庫遷移方法
從mysql搬一個(gè)大表到redis中，你會(huì)發(fā)現(xiàn)在提取、轉(zhuǎn)換或是載入一行數(shù)據(jù)時(shí)，速度慢的讓你難以忍受。這里我就要告訴一個(gè)讓你解脫的小技巧。使用“管道輸出”的方式把mysql命令行產(chǎn)生的內(nèi)容直接傳遞給redis-cli，以繞過“中間件”的方式使兩者在進(jìn)行數(shù)據(jù)操作時(shí)達(dá)到最佳速度。
一個(gè)約八百萬行數(shù)據(jù)的mysql表，原本導(dǎo)入到redis中需要90分鐘，使用這個(gè)方法后，只需要兩分鐘。不管你信不信，反正我是信了。
Mysql到Redis的數(shù)據(jù)協(xié)議
redis-cli命令行工具有一個(gè)批量插入模式，是專門為批量執(zhí)行命令設(shè)計(jì)的。這第一步就是把Mysql查詢的內(nèi)容格式化成redis-cli可用的數(shù)據(jù)格式。here we go!
我的統(tǒng)計(jì)表：
CREATE TABLE events_all_time ( id int(11) unsigned NOT NULL AUTO_INCREMENT, action varchar(255) NOT NULL, count int(11) NOT NULL DEFAULT 0, PRIMARY KEY (id), UNIQUE KEY uniq_action (action) );
準(zhǔn)備在每行數(shù)據(jù)中執(zhí)行的redis命令如下：
HSET events_all_time [action] [count]
按照以上redis命令規(guī)則，創(chuàng)建一個(gè)events_to_redis.sql文件，內(nèi)容是用來生成redis數(shù)據(jù)協(xié)議格式的SQL：
-- events_to_redis.sql
SELECT CONCAT( "*4\r\n", '$', LENGTH(redis_cmd), '\r\n', redis_cmd, '\r\n', '$', LENGTH(redis_key), '\r\n', redis_key, '\r\n', '$', LENGTH(hkey), '\r\n', hkey, '\r\n', '$', LENGTH(hval), '\r\n', hval, '\r' ) FROM ( SELECT 'HSET' as redis_cmd, 'events_all_time' AS redis_key, action AS hkey, count AS hval FROM events_all_time ) AS t
ok, 用下面的命令執(zhí)行：
mysql stats_db --skip-column-names --raw < events_to_redis.sql | redis-cli --pipe
很重要的mysql參數(shù)說明：
- --raw: 使mysql不轉(zhuǎn)換字段值中的換行符。
- --skip-column-names: 使mysql輸出的每行中不包含列名。
相關(guān)文章
在數(shù)據(jù)庫內(nèi)我們可以通過like關(guān)鍵字、％、*或者REGEX關(guān)鍵字進(jìn)行模糊匹配。而在Redis內(nèi)我們?nèi)绾芜M(jìn)行模糊匹配呢？本文就來介紹一下2021-05-05
redis反序列化報(bào)錯(cuò)原因分析以及解決方案
這篇文章主要介紹了redis反序列化報(bào)錯(cuò)原因分析以及解決方案，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教2023-03-03
這篇文章主要為大家介紹了Redis類型type與編碼encoding原理及使用示例詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪2023-03-03
redis 存儲(chǔ)對(duì)象的方法對(duì)比分析
這篇文章主要介紹了redis 存儲(chǔ)對(duì)象的方法對(duì)比分析，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教2021-07-07
解析高可用Redis服務(wù)架構(gòu)分析與搭建方案
我們按照由簡至繁的步驟，搭建一個(gè)最小型的高可用的Redis服務(wù)。 本文通過四種方案給大家介紹包含每種方案的優(yōu)缺點(diǎn)及詳細(xì)解說，具體內(nèi)容詳情跟隨小編一起看看吧2021-06-06
這篇文章主要介紹了redis鍵空間通知使用實(shí)現(xiàn)2021-08-08
了解redis中RDB結(jié)構(gòu)_動(dòng)力節(jié)點(diǎn)Java學(xué)院整理
這篇文章主要為大家詳細(xì)介紹了redis中RDB結(jié)構(gòu)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2017-08-08
本文主要介紹了5分鐘搭建redis集群，文中通過示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2021-08-08
本文主要介紹了redis整數(shù)集為什么不能降級(jí)，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-07-07
這篇文章主要介紹了Redis常見限流算法原理及實(shí)現(xiàn)，限流簡稱流量限速(Rate?Limit)是指只允許指定的事件進(jìn)入系統(tǒng)，超過的部分將被拒絕服務(wù)、排隊(duì)或等待、降級(jí)等處理2022-08-08