利用pandas向一個(gè)csv文件追加寫入數(shù)據(jù)的實(shí)現(xiàn)示例
我們越來越多的使用pandas進(jìn)行數(shù)據(jù)處理,有時(shí)需要向一個(gè)已經(jīng)存在的csv文件寫入數(shù)據(jù),傳統(tǒng)的方法之前我也有些過,向txt,excel文件寫入數(shù)據(jù),傳送門:Python將二維列表(list)的數(shù)據(jù)輸出(TXT,Excel)
pandas to_csv()只能在新文件寫數(shù)據(jù)?當(dāng)然不是!
pandas to_csv() 是可以向已經(jīng)存在的具有相同結(jié)構(gòu)的csv文件增加dataframe數(shù)據(jù)。
df.to_csv('my_csv.csv', mode='a', header=False)
to_csv()方法mode默認(rèn)為w,我們加上mode='a',便可以追加寫入數(shù)據(jù)。
pandas讀寫文件,處理數(shù)據(jù)的效率太高了,所以我們盡量使用pandas的進(jìn)行輸出。
下面讓我們來看一下示例
# -*- coding:utf-8 -*-
import os
import time
import pandas as pd
from multiprocessing import Pool
def merge(filename):
return pd.read_csv('./fun_data/'+filename)
if __name__ == "__main__":
file_list = os.listdir('./fun_data')
e1 = time.time()
pool = Pool(20)
result = pool.map(merge,file_list)
pool.close()
pool.join()
e2 = time.time()
print(e2 - e1)
for i in result:
i.to_csv('./static.csv',mode='a',encoding='utf-8',header=False,index=False)
e3 = time.time()
print(e3-e2)
到此這篇關(guān)于利用pandas向一個(gè)csv文件追加寫入數(shù)據(jù)的實(shí)現(xiàn)示例的文章就介紹到這了,更多相關(guān)pandas csv追加寫入內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python?Flask實(shí)現(xiàn)快速構(gòu)建Web應(yīng)用的方法詳解
Flask是一個(gè)輕量級的Web服務(wù)器網(wǎng)關(guān)接口(WSGI)web應(yīng)用框架,本文將和大家一起詳細(xì)探討一下Python?Flask?Web服務(wù),需要的小伙伴可以學(xué)習(xí)一下2023-06-06
python3操作redis實(shí)現(xiàn)List列表實(shí)例
本文主要介紹了python3操作redis實(shí)現(xiàn)List列表實(shí)例,文中通過示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2021-08-08

