一條sql語(yǔ)句完成MySQL去重留一
前幾天在做一個(gè)需求的時(shí)候,需要清理mysql中重復(fù)的記錄,當(dāng)時(shí)的想法是通過(guò)代碼遍歷寫(xiě)出來(lái),然后覺(jué)得太復(fù)雜,心里想著應(yīng)該可以通過(guò)一個(gè)sql語(yǔ)句來(lái)解決問(wèn)題的。查了資料,請(qǐng)教了大佬之后得出了一個(gè)很便利的sql語(yǔ)句,這里分享下這段sql語(yǔ)句和思路。
需求分析
數(shù)據(jù)庫(kù)中存在重復(fù)記錄,刪除保留其中一條(是否重復(fù)判斷基準(zhǔn)為多個(gè)字段)
解決方案
碰到這個(gè)需求的時(shí)候,心里大概是有思路的。最快想到的是可以通過(guò)一條sql語(yǔ)句來(lái)解決,無(wú)奈自己對(duì)于復(fù)雜sql語(yǔ)句的道行太淺,所以想找大佬幫忙。
找人幫忙
因?yàn)檫@個(gè)需求有點(diǎn)著急,所以最開(kāi)始想到的是,可以找這方面的同行來(lái)解決,然后分享這個(gè)問(wèn)題給同事,結(jié)果這貨隨便百度了一下,就甩給我一個(gè)從未用過(guò)的sql語(yǔ)句,讓我自己嘗試,心里萬(wàn)匹那啥啥啥奔騰而過(guò)...
自己百度
找到了一條sql語(yǔ)句:
DELETE FROM vitae a WHERE (a.peopleId, a.seq) IN ( SELECT peopleId, seq FROM vitae GROUP BY peopleId, seq HAVING count(*) > 1 ) AND rowid NOT IN ( SELECT min(rowid) FROM vitae GROUP BY peopleId, seq HAVING count(*) > 1 )
這條語(yǔ)句是在 【MySQL中刪除重復(fù)數(shù)據(jù)只保留一條】 這篇文章里找到的。這條sql思路很明顯,有以下3步:
SELECT peopleId, seq FROM vitae GROUP BY peopleId, seq HAVING count(*) > 1 查詢(xún)出表中重復(fù)記錄作為條件
SELECT min(rowid) FROM vitae GROUP BY peopleId, seq HAVING count(*) > 1 查詢(xún)出表中重復(fù)記錄中ID最小的值為第二個(gè)條件
最后根據(jù)以上兩個(gè)條件,刪除 除 重復(fù)記錄中最小ID的其余重復(fù)記錄
但是很無(wú)奈的是,運(yùn)行這條語(yǔ)句出現(xiàn)了錯(cuò)誤,大致報(bào)錯(cuò)意思是,不能在查詢(xún)的時(shí)候同時(shí)更新這個(gè)表。
代碼解決
根據(jù)上面這個(gè)sql語(yǔ)句想到或許可以通過(guò)代碼的方式,兩步來(lái)達(dá)到同樣的目的:
先取出重復(fù)的數(shù)據(jù)集
根據(jù)查詢(xún)到的數(shù)據(jù)集,循環(huán)刪除其余的重復(fù)數(shù)據(jù)
想法是有了,寫(xiě)出來(lái)也很快,但是一運(yùn)行嚇我一跳,竟然需要 116s 左右,然后自己就想一定要找到可以使用的sql語(yǔ)句,貼一下代碼和運(yùn)行結(jié)果:


完美的【去重留一】SQL
最后在一個(gè)技術(shù)群里得到了完美的答案,看這條sql語(yǔ)句:
DELETE consum_record FROM consum_record, ( SELECT min(id) id, user_id, monetary, consume_time FROM consum_record GROUP BY user_id, monetary, consume_time HAVING count(*) > 1 ) t2 WHERE consum_record.user_id = t2.user_id and consum_record.monetary = t2.monetary and consum_record.consume_time = t2.consume_time AND consum_record.id > t2.id;
上面這條sql語(yǔ)句,仔細(xì)看一下,揣摩出思路也不難,大概也分為3步來(lái)理解:
(SELECT min(id) id, user_id, monetary, consume_time FROM consum_record GROUP BY user_id, monetary, consume_time HAVING count(*) > 1 ) t2 查詢(xún)出重復(fù)記錄形成一個(gè)集合(臨時(shí)表t2),集合里是每種重復(fù)記錄的最小ID
consum_record.user_id = t2.user_id and consum_record.monetary = t2.monetary and consum_record.consume_time = t2.consume_time 關(guān)聯(lián) 判斷重復(fù)基準(zhǔn)的字段
根據(jù)條件,刪除原表中id大于t2中id的記錄
看到這個(gè)語(yǔ)句的時(shí)候,心里想這也太厲害了。這么一個(gè)簡(jiǎn)單的sql語(yǔ)句,竟然可以解決這么復(fù)雜的問(wèn)題,漲姿勢(shì)了~
運(yùn)行起來(lái)也超級(jí)快,原先的代碼循環(huán)執(zhí)行,需要 116s 左右,而這里 0.3s 就可以了,厲害了~

總結(jié)
作為一個(gè)php程序猿,按理來(lái)說(shuō)sql這里是不能拖后腿的,無(wú)奈實(shí)際中,需要忙碌的事情太多,現(xiàn)在的sql水平也只是處于在一個(gè)普通的層次中,以后找機(jī)會(huì)一定要補(bǔ)一下這方面的知識(shí)。
今天就分享到這里啦。
相關(guān)文章
mysql父子集查詢(xún)(根據(jù)父級(jí)查詢(xún)所有子集)
某些場(chǎng)景可能需要維護(hù)一些有父子關(guān)系的數(shù)據(jù),本文主要介紹了mysql父子集查詢(xún)(根據(jù)父級(jí)查詢(xún)所有子集),具有一定的參考價(jià)值,感興趣的可以了解一下2024-02-02
mysql中json類(lèi)型字段的基本用法實(shí)例
大家應(yīng)該都知道m(xù)ysql中的字段可以使用json的格式來(lái)進(jìn)行存儲(chǔ),下面這篇文章主要給大家介紹了關(guān)于mysql中json類(lèi)型字段的基本用法,文中通過(guò)實(shí)例代碼介紹的非常詳細(xì),需要的朋友可以參考下2022-08-08
MySQL8.0就地升級(jí)到MySQL8.4.0的方法
本文主要介紹了MySQL8.0就地升級(jí)到MySQL8.4.0的方法,文中通過(guò)代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2024-06-06
redhat7.1 安裝mysql 5.7.10步驟詳解(圖文詳解)
這篇文章主要介紹了redhat7.1 安裝mysql 5.7.10的步驟詳細(xì)介紹本文圖文并茂給大家介紹的非常詳細(xì),需要的朋友可以參考下2016-11-11
mysql啟動(dòng)提示mysql.host 不存在,啟動(dòng)失敗的解決方法
我將s9當(dāng)眾原來(lái)的mysql4.0刪除后,重新裝了個(gè)mysql5.0,啟動(dòng)過(guò)程中報(bào)一下錯(cuò)誤,啟動(dòng)失敗,查了一下群里面的老帖子也沒(méi)有個(gè)具體的明確說(shuō)明2011-10-10

