Python利用臨時文件實現(xiàn)數(shù)據(jù)的保存
假設(shè)有一個 WebSocket 接口,會源源不斷地產(chǎn)生數(shù)據(jù),我們需要將其保存下來,然后進行處理。但由于數(shù)據(jù)量比較大,無法一次性加載到內(nèi)存,最好的辦法就是保存到文件里。
如果數(shù)據(jù)處理完畢,不再需要相關(guān)文件的話,那么我們可以使用臨時文件。臨時文件的最大好處就是,不用命名、并且關(guān)閉時會自動刪除,而無需我們手動刪。
下面我們來看看如何使用臨時文件。
import?tempfile #?第一個參數(shù)是?mode,表示打開模式 #?默認是?"wb+",二進制可讀可寫 f?=?tempfile.TemporaryFile() #?假設(shè)我們寫?1G?的數(shù)據(jù) f.write(b"+"?*?1024?*?1024?*?1024) #?此時文件指針會移動到末尾 #?想要讀取的話,需要移動到開頭 f.seek(0,?0) print(len(f.read())) """ 1073741824 """ print(1073741824?==?1024?*?1024?*?1024) """ True """
臨時文件和真實文件的操作方法是一樣的,因為臨時文件本質(zhì)上也屬于文件,它的數(shù)據(jù)也存儲在系統(tǒng)上,只不過我們不知道罷了。當(dāng)調(diào)用 f.close(),臨時文件就會被自動刪除,占用的磁盤空間也會被釋放。我們來驗證一下:
import?psutil
import?tempfile
GB_UNIT?=?1024?*?1024?*?1024
#?臨時文件默認存儲在?C?盤
#?我們查看已經(jīng)使用的空間
print(
????psutil.disk_usage("C:\\").used?/?GB_UNIT
)??#?89.93075561523438
f?=?tempfile.TemporaryFile()
#?寫?1G?的數(shù)據(jù)
f.write(b"+"?*?1024?*?1024?*?1024)
#?不出意外的話,應(yīng)該增加?1G
print(
????psutil.disk_usage("C:\\").used?/?GB_UNIT
)??#?90.93075561523438
#?關(guān)閉臨時文件,然后釋放磁盤空間
f.close()
#?所以又會減少?1G
print(
????psutil.disk_usage("C:\\").used?/?GB_UNIT
)??#?89.93075561523438輸出一切正常,所以結(jié)論如下:
- 臨時文件本質(zhì)上也是文件,它在存儲數(shù)據(jù)的時候,也是存儲在磁盤上,和真實文件并無二致;
- 臨時文件的調(diào)用屬于操作系統(tǒng)級別的,所以它的創(chuàng)建、讀寫數(shù)據(jù),最終都會走操作系統(tǒng)提供的系統(tǒng)調(diào)用;
- 臨時文件在被關(guān)閉時,操作系統(tǒng)會自動刪除;
然后我們還可以指定臨時文件的存儲位置,雖然臨時文件關(guān)閉時會自動刪除,但我們還是希望它能存儲在指定的位置上。
import?tempfile import?time f?=?tempfile.TemporaryFile(dir=r"E:\data") time.sleep(30)
為了觀察到現(xiàn)象,這里 sleep 了 30 秒。執(zhí)行時,打開目錄,會發(fā)現(xiàn)文件創(chuàng)建了,并且操作系統(tǒng)幫我們起了個名字。

等 30 秒過后,文件又被自動刪除了。
然后 TemporaryFile 里面還接收其它參數(shù),我們來看一下:

大部分參數(shù)和內(nèi)置函數(shù) open 類似,但里面有一個 prefix 和 suffix 參數(shù)。因為臨時文件也是文件,也要存儲在磁盤上,只不過關(guān)閉之后會自動刪除。所以它也要有一個名字,默認名字的前綴是 "tmp",沒有后綴,而我們可以指定前綴和后綴,舉個例子:
import?tempfile import?time f?=?tempfile.TemporaryFile(dir=r"E:\data", ???????????????????????????prefix="你好呀", ???????????????????????????suffix="我不好") time.sleep(30)
執(zhí)行一下看看:

此時文件的前綴和后綴就被我們改掉了,不過說實話這個前綴和后綴沒太大卵用,既然是臨時文件,用完就刪除了,名字沒太大關(guān)注的必要。
那么問題來了,如果不指定 dir 參數(shù),我們就不知道文件存在哪了嗎?顯然不是的,默認存在什么地方,tempfile 已經(jīng)提前告訴我們了。
import?tempfile #?Linux?系統(tǒng)是?/tmp print( ????tempfile.gettempdir() )??#?C:\Users\satori\AppData\Local\Temp #?返回二進制結(jié)果 print( ????tempfile.gettempdirb() )??#?b'C:\\Users\\satori\\AppData\\Local\\Temp' #?獲取前綴 print( ????tempfile.gettempprefix() )??#?tmp #?返回二進制結(jié)果 print( ????tempfile.gettempprefixb() )??#?b'tmp'
最后想說的是,臨時文件也可以使用 mmap 進行映射。
import?tempfile import?mmap f?=?tempfile.TemporaryFile() f.write(b"hello,?world") #?映射之前需要移動一下光標(biāo) f.seek(0,?0) #?mmap?映射,這里就映射?5?字節(jié) m?=?mmap.mmap(f.fileno(),?5) m[:]?=?b"HELLO" #?再次打印 print(f.read()) """ b'HELLO,?world' """
以上就是臨時文件的用法,當(dāng)然 tempfile 還提供了其它的操作,有興趣可以了解一下,但使用最普遍的還是 TemporaryFile。
到此這篇關(guān)于Python利用臨時文件實現(xiàn)數(shù)據(jù)的保存的文章就介紹到這了,更多相關(guān)Python臨時文件保存數(shù)據(jù)內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
python GUI庫圖形界面開發(fā)之PyQt5切換按鈕控件QPushButton詳細使用方法與實例
這篇文章主要介紹了python GUI庫圖形界面開發(fā)之PyQt5切換按鈕控件QPushButton詳細使用方法與實例,需要的朋友可以參考下2020-02-02
python用ConfigObj讀寫配置文件的實現(xiàn)代碼
發(fā)現(xiàn)一個簡單而又強大的讀寫配置文件的lib,個人覺得最大的亮點在于自帶的格式校驗功能,并且支持復(fù)雜的嵌套格式,而且使用起來也相當(dāng)?shù)暮啽?/div> 2013-03-03
pytorch模型預(yù)測結(jié)果與ndarray互轉(zhuǎn)方式
今天小編就為大家分享一篇pytorch模型預(yù)測結(jié)果與ndarray互轉(zhuǎn)方式,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-01-01
使用Python和Scribus創(chuàng)建一個RGB立方體的方法
這篇文章主要介紹了使用Python和Scribus創(chuàng)建一個RGB立方體的方法,文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-07-07
Python實現(xiàn)字符串反轉(zhuǎn)的常用方法分析【4種方法】
這篇文章主要介紹了Python實現(xiàn)字符串反轉(zhuǎn)的常用方法,結(jié)合具體實例形式分析了4種常用的Python字符串反轉(zhuǎn)操作技巧,需要的朋友可以參考下2017-09-09
Django框架實現(xiàn)分頁顯示內(nèi)容的方法詳解
這篇文章主要介紹了Django框架實現(xiàn)分頁顯示內(nèi)容的方法,結(jié)合實例形式詳細分析了Django框架引入bootstrap樣式進行分頁顯示相關(guān)步驟、實現(xiàn)方法與操作注意事項,需要的朋友可以參考下2019-05-05
Pycharm開發(fā)Django項目創(chuàng)建ORM模型的問題
ORM,全稱Object Relational Mapping,通過ORM我們可以通過類的方式去操作數(shù)據(jù)庫,而不用再寫原生的SQL語句,下面通過本文給大家介紹Pycharm開發(fā)Django項目ORM模型介紹,感興趣的朋友一起看看吧2021-10-10
pygame實現(xiàn)俄羅斯方塊游戲(基礎(chǔ)篇1)
這篇文章主要為大家介紹了pygame實現(xiàn)俄羅斯方塊游戲基礎(chǔ)的第1篇,文中示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下2019-10-10最新評論

