Python內(nèi)存映射文件讀寫(xiě)方式
我就廢話不多說(shuō)了,還是直接看代碼吧!
import os import time import mmap filename = 'test.txt' #如果不存在,創(chuàng)建。 if not os.path.exists(filename): open(filename, 'w') print(os.path.isdir(filename)) if os.path.isfile(filename): print(time.ctime(os.path.getctime(filename))) fd = os.open(filename, os.O_RDWR) m = mmap.mmap(fd, 50, access=mmap.ACCESS_WRITE) # 1024字節(jié)的文件。 m.seek(2) buf1 = bytes(b'Zhang') m[2:len(buf1)+2] = buf1 buf2 = b'Phil' m.seek(20) # 定位寫(xiě)入的位置。 m.write(buf2) # 寫(xiě)入字節(jié)數(shù)據(jù)。 m.close() fd = os.open(filename, os.O_RDWR) m = mmap.mmap(fd, 50, access=mmap.ACCESS_READ) m.seek(20) buf3 = m.read(len(buf2)) m.close() print(list(buf3))
操作后的test.txt文件內(nèi)容:
Zhang Phil
補(bǔ)充知識(shí):Python對(duì)二進(jìn)制文件做內(nèi)存映射,高效優(yōu)雅地對(duì)內(nèi)容隨機(jī)訪問(wèn)
讀寫(xiě)二進(jìn)制文件還在使用open函數(shù)?
各種組合seek()、read()和write()累不累?
使用 mmap 模塊實(shí)現(xiàn)對(duì)文件的內(nèi)存映射,讓我們讀寫(xiě)二進(jìn)制文件像操作數(shù)組一樣高效優(yōu)雅。
先給出一個(gè)實(shí)用函數(shù),用來(lái)演示如何打開(kāi)一個(gè)文件并對(duì)它進(jìn)行內(nèi)存映射操作。
def memory_map(filename, access=mmap.ACCESS_WRITE): size = os.path.getsize(filename) fd = os.open(filename, os.O_RDWR) return mmap.mmap(fd, size, access=access)
要使用這個(gè)函數(shù),需要先準(zhǔn)備一個(gè)已經(jīng)創(chuàng)建好的文件并為之填充一些數(shù)據(jù)。
>>> size = 1000000
>>> with open('data','wb') as f:
f.seek(size-1)
f.write(b'\x00')
接著我們可以使用memory_map()函數(shù)對(duì)文件內(nèi)容做內(nèi)存映射,它返回的mmap對(duì)象可以讓我們像操作數(shù)組一樣讀寫(xiě)二進(jìn)制文件!
>>> m = memory_map('data')
>>> len(m)
1000000
>>> m[:10]
b'\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00'
>>> m[0]
0
>>> m[0:11]=b'Hello World'#改變一個(gè)切片
>>> m.close()
>>> with open('data','rb') as f:#驗(yàn)證改變已經(jīng)生效
print(f.read(11))
b'Hello World'
由于mmap()返回的mmap對(duì)象也可以當(dāng)作上下文管理器使用,在這種情況下,底層的文件會(huì)自動(dòng)關(guān)閉。
>>> with memory_map('data') as m:
print(len(m))
print(m[0:11])
1000000
b'Hello World'
默認(rèn)情況下memory_map()函數(shù)打開(kāi)的文件既可以讀,也可以寫(xiě)。對(duì)數(shù)據(jù)的任何修改都會(huì)拷貝回原始的文件中。
如果需要只讀訪問(wèn),可以為access參數(shù)提供mmap.ACCESS_READ值。
m = memory_map(filename, mmap.ACCESS_READ)
如果只想要在本地修改數(shù)據(jù),并不想將這些修改寫(xiě)回到原始文件中,可以使用mmap.ACCESS_COPY參數(shù)。
m = memory_map(filename, mmap.ACCESS_COPY)
總結(jié):
通過(guò)mmap將文件映射到內(nèi)存之后,我們可以高效并優(yōu)雅地對(duì)文件的內(nèi)容進(jìn)行隨機(jī)訪問(wèn)。
與其打開(kāi)文件后通過(guò)組合各種seek()、read()和write()調(diào)用來(lái)訪問(wèn),不如簡(jiǎn)單將文件映射到內(nèi)存,然后通過(guò)切片操作來(lái)訪問(wèn)數(shù)據(jù)。
需要強(qiáng)調(diào)的是,對(duì)某個(gè)文件進(jìn)行內(nèi)存映射并不會(huì)導(dǎo)致將整個(gè)文件讀到內(nèi)存中。也就是說(shuō),文件并不會(huì)拷貝到某種內(nèi)存緩沖區(qū)或數(shù)組上。相反,操作系統(tǒng)只是為文件內(nèi)容保留一段虛擬內(nèi)存而已。
當(dāng)訪問(wèn)文件的不同區(qū)域時(shí),文件的這些區(qū)域?qū)⒈蛔x取并按照需要映射到內(nèi)存區(qū)域中。但是,文件中從未訪問(wèn)過(guò)的部分會(huì)簡(jiǎn)單地留在磁盤(pán)上。這一切都是以透明的方式在幕后完成的。
如果有多個(gè)Python解釋器對(duì)同一個(gè)文件做了內(nèi)存映射,得到的mmap對(duì)象可以用來(lái)在解釋器之間交換數(shù)據(jù)。也就是說(shuō),所有的解釋器可以同時(shí)讀/寫(xiě)數(shù)據(jù),在一個(gè)解釋器中對(duì)數(shù)據(jù)做出的修改會(huì)自動(dòng)反映到其他解釋器上。
雖然還需要一些額外的步驟來(lái)處理同步問(wèn)題,但是有時(shí)候可以使用這種方法作為通過(guò)管道或者socket傳輸數(shù)據(jù)的替代方案。
以上這篇Python內(nèi)存映射文件讀寫(xiě)方式就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
解決django xadmin主題不顯示和只顯示bootstrap2的問(wèn)題
這篇文章主要介紹了解決django xadmin主題不顯示和只顯示bootstrap2的問(wèn)題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-03-03
python中mechanize庫(kù)的簡(jiǎn)單使用示例
最近的項(xiàng)目中使用到了mechanize庫(kù),下面寫(xiě)個(gè)簡(jiǎn)單使用的小例子給大家參考2014-01-01
PyTorch的深度學(xué)習(xí)入門(mén)之PyTorch安裝和配置
這篇文章主要介紹了PyTorch的深度學(xué)習(xí)入門(mén)之PyTorch安裝和配置,小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2019-06-06
通過(guò)PYTHON來(lái)實(shí)現(xiàn)圖像分割詳解
這篇文章主要介紹了通過(guò)PYTHON來(lái)實(shí)現(xiàn)圖像分割詳解,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,,需要的朋友可以參考下2019-06-06
Python實(shí)現(xiàn)基于KNN算法的筆跡識(shí)別功能詳解
這篇文章主要介紹了Python實(shí)現(xiàn)基于KNN算法的筆跡識(shí)別功能,結(jié)合實(shí)例形式詳細(xì)分析了使用KNN算法進(jìn)行筆跡識(shí)別的相關(guān)庫(kù)引入、操作步驟與相關(guān)注意事項(xiàng),需要的朋友可以參考下2018-07-07
python通過(guò)線程實(shí)現(xiàn)定時(shí)器timer的方法
這篇文章主要介紹了python通過(guò)線程實(shí)現(xiàn)定時(shí)器timer的方法,涉及Python線程與定時(shí)器timer的使用技巧,需要的朋友可以參考下2015-03-03
Python中類(lèi)似于jquery的pyquery庫(kù)用法分析
這篇文章主要介紹了Python中類(lèi)似于jquery的pyquery庫(kù)用法,結(jié)合實(shí)例形式分析了pyquery庫(kù)的概念、原理、使用方法及操作技巧,需要的朋友可以參考下2019-12-12
Python3實(shí)現(xiàn)二叉樹(shù)的最大深度
這篇文章主要介紹了Python3實(shí)現(xiàn)二叉樹(shù)的最大深度, 文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2019-09-09
Python處理時(shí)間戳和時(shí)間計(jì)算等的腳本分享
這篇文章主要為大家整理總結(jié)了5個(gè)實(shí)用的Python小,可以實(shí)現(xiàn)時(shí)間戳處理和時(shí)間計(jì)算。文中的示例代碼講解詳細(xì),感興趣的小伙伴可以學(xué)習(xí)一下2022-07-07

