聊聊python中令人迷惑的duplicated和drop_duplicates()用法
更新時間：2021年05月21日 11:07:32 作者：石小秀1995
這篇文章主要介紹了聊聊python中令人迷惑的duplicated和drop_duplicates()用法，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教
前言
在算face_track_id map有感：
開始驗證
data={'state':[1,1,2,2,1,2,2,2],'pop':['a','b','c','d','b','c','d','d']}
frame=pd.DataFrame(data)
frame
frame.shape $ (8,2)
# 說明duplicated()是對整行進(jìn)行查重，return 重復(fù)了的數(shù)據(jù)，且只現(xiàn)實n-1條重復(fù)的數(shù)據(jù)（n是重復(fù)的次數(shù)） frame[frame.duplicated() == True]
一開始還很疑惑，明明（1，b）只出現(xiàn)了1次，哪里duplicate了。其實，人家return的結(jié)果是去掉已經(jīng)出現(xiàn)過一次的行數(shù)據(jù)了。所以看起來有點confuse，感覺（1，b）并沒有重復(fù)，但其實人家的函數(shù)很簡潔呢，返回了重復(fù)值而且不冗余。
# 說明drop_duplicates()函數(shù)是將所有重復(fù)的數(shù)據(jù)都去掉了，且默認(rèn)保留重復(fù)數(shù)據(jù)的第一條。 # 比如（2，d）出現(xiàn)了3次，在duplicated（）中顯示了2次，在drop_dupicates（）后保留了一個 frame.drop_duplicates().shape $ (4,2)
# 留下了完全唯一的數(shù)據(jù)行 frame.drop_duplicates()
補充：python的pandas重復(fù)值處理（duplicated()和drop_duplicates())
一、生成重復(fù)記錄數(shù)據(jù)
import numpy as np import pandas as pd #生成重復(fù)數(shù)據(jù) df=pd.DataFrame(np.ones([5,2]),columns=['col1','col2']) df['col3']=['a','b','a','c','d'] df['col4']=[3,2,3,2,2] df=df.reindex(columns=['col3','col4','col1','col2']) #將新增的一列排在第一列 df
輸出：
二、判斷重復(fù)記錄（行）
#判斷重復(fù)數(shù)據(jù) isDplicated=df.duplicated() #判斷重復(fù)數(shù)據(jù)記錄 isDplicated
輸出：
三、刪除重復(fù)值
#刪除重復(fù)值 new_df1=df.drop_duplicates() #刪除數(shù)據(jù)記錄中所有列值相同的記錄 new_df2=df.drop_duplicates(['col3']) #刪除數(shù)據(jù)記錄中col3列值相同的記錄 new_df3=df.drop_duplicates(['col4']) #刪除數(shù)據(jù)記錄中col4列值相同的記錄 new_df4=df.drop_duplicates(['col3','col4']) #刪除數(shù)據(jù)記錄中(col3和col4)列值相同的記錄 new_df1 new_df2 new_df3 new_df4
輸出：
以上為個人經(jīng)驗，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關(guān)文章
生成隨機數(shù)一般使用的就是random模塊下的函數(shù)，生成的隨機數(shù)并不是真正意義上的隨機數(shù),而是對隨機數(shù)的一種模擬。random模塊包含各種偽隨機數(shù)生成函數(shù)，以及各種根據(jù)概率分布生成隨機數(shù)的函數(shù)。今天我們的目標(biāo)就是摸清隨機數(shù)有幾種生成方式2022-03-03
這篇文章主要介紹了Python去除字符串兩端空格的方法,本文主要講解了string.lstrip、string.rstrip、string.strip等函數(shù)的運用,需要的朋友可以參考下2015-05-05
同比和環(huán)比都是為了顯示數(shù)據(jù)的變化速度,但是基數(shù)不同,同比側(cè)重長期數(shù)據(jù)趨勢變化,環(huán)比側(cè)重于短期內(nèi)數(shù)據(jù)趨勢變化,下面這篇文章主要給大家介紹了關(guān)于如何使用pandas計算環(huán)比和同比的相關(guān)資料,需要的朋友可以參考下2022-03-03
這篇文章主要介紹了簡單的連接MySQL與Python的Bottle框架的方法,主要基于mysql-connector插件,需要的朋友可以參考下2015-04-04
Python簡單獲取二維數(shù)組行列數(shù)的方法示例
這篇文章主要介紹了Python簡單獲取二維數(shù)組行列數(shù)的方法,結(jié)合實例形式分析了Python基于numpy模塊的二維數(shù)組相關(guān)運算技巧,需要的朋友可以參考下2018-12-12
基于 Django 的手機管理系統(tǒng)實現(xiàn)過程詳解
這篇文章主要介紹了基于 Django 的手機管理系統(tǒng)過程詳解,文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2019-08-08
本文將詳細(xì)介紹unittest模塊的各個方面，包括測試用例、斷言、測試套件、setUp和tearDown方法、跳過和期望異常、測試覆蓋率、持續(xù)集成等內(nèi)容，我們將提供豐富的示例代碼，以便讀者更好地理解如何使用unittest進(jìn)行單元測試2023-12-12
這篇文章主要介紹了python選擇排序算法的實現(xiàn)代碼,大家參考2013-11-11
RxPy是非常流行的響應(yīng)式框架Reactive X的Python版本，其實這些版本都是一樣的，只不過是各個語言的實現(xiàn)不同而已。因此，如果學(xué)會了其中一種，那么使用其他的響應(yīng)式版本也是輕而易舉的2021-06-06
Python執(zhí)行時間計算方法以及優(yōu)化總結(jié)
python腳本運行時間遠(yuǎn)遠(yuǎn)大于python腳本中統(tǒng)計的計算時間，所以本文將為大家分享就幾個Python執(zhí)行時間計算方法以及優(yōu)化，感興趣的可以了解一下2022-08-08