Rails中使用MySQL分區(qū)表一個提升性能的方法
MySQL 的分區(qū)表是一種簡單有效的處理極大數(shù)據(jù)表的特性,通過它可以使應用程序幾乎很少改動就能達成對極大數(shù)據(jù)表的高效處理,但由于 Rails ActiveRecord 設計上一些慣例,可能導致一些數(shù)據(jù)處理不能利用分區(qū)表特性,反而變得很慢,在使用分區(qū)表過程中一定要多加注意。
下面以一個例子來說明。在 light 系統(tǒng)中,有一張數(shù)據(jù)表是 diet_items, 主要字段是 id, schedule_id, meal_order food_id, weight, calory 等等,它的每一條記錄表示為用戶生成每日的減肥計劃(減肥食譜 + 運動計劃)中的一條飲食項,平均一條的計劃有 10 多條數(shù)據(jù),數(shù)據(jù)量非常大,預計每天生成數(shù)據(jù)會超過 100 萬條,所以對其做了分表處理,根據(jù) schedule_id hash 分成 60 張表,也就是數(shù)據(jù)將動態(tài)分到 60 張表中。分表后 diet_items 的建表語句如下所示:
CREATE TABLE `diet_items` (
`id` int(11) NOT NULL AUTO_INCREMENT,
`schedule_id` int(11) NOT NULL,
`meals_order` int(11) NOT NULL,
`food_id` int(11) DEFAULT NULL,
....
KEY id (`id`),
UNIQUE KEY `index_diet_items_on_schedule_id_and_id` (`schedule_id`,`id`)
)
PARTITION BY HASH (schedule_id)
PARTITIONS 60;
分表之后,所有查詢 diet_items 的地方都要求帶上 schedule_id,比如獲取某一個 schedule 的所有 diet_items,通過 schedule. diet_items,獲取某一個 id 的 diet_item 也是通過 schedule.diet_items.find(id) 進行。生成 diet_item 也沒有問題,因為生成 diet_item 都是通過 schedule.diet_items.build(data) 方式,在生成的時候都是帶了 schedule_id 的。
觀察 newrelic 日志,發(fā)現(xiàn) diet_item 的 update 和 destroy 相關的請求特別慢,仔細分析后,發(fā)現(xiàn)這兩種操作非常忙是由于 ActiveRecord 生成的 sql 并沒有帶 schedule_id 導致。 diet_item update 操作 ActiveRecord 生成的 sql 語句類似于 update diet_items set … where id = <id>。 diet_item destroy 生成的語句類似于 delete diet_items where id = <id> 因為沒有帶 schedule_id,導致這兩種語句都需要 mysql 掃描 60 張分區(qū)表才能夠完成一個語句執(zhí)行,非常慢!
知道原因之后就好辦了,把原來的 update 和 destroy 調用改為自定義版本的 update 和 destroy 調用就可以了。
diet_item.update(attributes) 改成 DietItem.where(id: diet_item.id, schedule_id: diet_item.schedule_id).update_all(attributes)
diet_item.destroy 改成 DietItem.where(id: diet_item.id, schedule_id: diet_item.schedule_id).delete_all
這樣生成的 sql 都帶上 schedule_id 條件,從而避免了掃描全部的分區(qū)表,性能提升立竿見影。
相關文章
Ruby使用Monkey Patch猴子補丁方式進行程序開發(fā)的示例
Monkey Patch猴子補丁是指在程序解釋運行時動態(tài)添加類或模塊的做法,這里我們就來看一下Ruby使用Monkey Patch猴子補丁方式進行程序開發(fā)的示例2016-05-05
win7安裝ruby on rails開發(fā)環(huán)境
看到很多文章都說ruby環(huán)境在windows上是非常難搭建,會出現(xiàn)各種各樣的怪問題,所以都推薦到linux和mac上安裝開發(fā)。但是我按照教程搭了下,問題也不算太多。總過大概花費了2個半小時左右就完成了。下面就把安裝的步驟及具體的版本記錄了一下供大家參考。2014-07-07
使用Ruby實現(xiàn)簡單的事物驅動的web應用的教程
這篇文章主要介紹了使用Ruby實現(xiàn)簡單的事物驅動的web應用的教程,本文來自于IBM官方技術文檔,需要的朋友可以參考下2015-04-04

