如何用pandas處理hdf5文件
什么是HDF5
HDF5:Hierarchical Data Format Version 5,對(duì)于存儲(chǔ)大規(guī)模、具有相同類型的數(shù)據(jù),HDF5是一種非常不錯(cuò)的存儲(chǔ)格式,文件后綴名為h5。這種格式的文件的存儲(chǔ)和讀取速度非常快,并且我們可以把HDF5文件看成是一個(gè)"目錄",它是分層次的,我們來看看如何操作。
創(chuàng)建和讀取HDF5文件
import pandas as pd
import numpy as np
hdf5 = pd.HDFStore("hello.h5", mode="w", complevel=9)
"""
path: 文件路徑
mode: 和python的open函數(shù)中的mode一致
complevel: 壓縮級(jí)別,默認(rèn)是0到9。值越大,壓縮程度越高,那么最終形成的文件所占的體積越小,但是相應(yīng)的,在讀取的時(shí)候用的解壓縮的時(shí)間就越長(zhǎng)
"""
# 打印是一個(gè)HDFStore對(duì)象
print(hdf5) # <class 'pandas.io.pytables.HDFStore'>
# 存儲(chǔ)數(shù)據(jù),可以直接使用賦值的方式
hdf5["series"] = pd.Series([1, 2, 3, 4, 5])
hdf5["dataframe"] = pd.DataFrame(np.random.randint(3, 10, size=(8, 4)))
# 除此之外,還可以使用put的方式
"""
hdf5.put("series", pd.Series([1, 2, 3, 4, 5]))
hdf5.put("dataframe", pd.DataFrame(np.random.randint(3, 10, size=(8, 4))))
put函數(shù)里面支持如下參數(shù):
key:寫入數(shù)據(jù)的key
value:寫入數(shù)據(jù)的value
format:指定寫出的模式,指定為"fixed",那么速度會(huì)快,但是不支持追加和查詢。指定為"table",會(huì)以表格的模式寫出,速度稍慢,但是支持追加和查詢操作
"""
# 我們可以通過items來查看相應(yīng)屬性,類似于字典的items
print(list(hdf5.items()))
"""
File path: hello.h5
[('/dataframe', /dataframe (Group) ''
children := ['axis0' (CArray), 'axis1' (CArray), 'block0_values' (CArray), 'block0_items' (CArray)]), ('/series', /series (Group) ''
children := ['index' (CArray), 'values' (CArray)])]
"""
# items不太好看,我們來看keys,查看keys,但是注意:沒有values
# 我們發(fā)現(xiàn)key是類似于目錄一樣的東西,名字就是我們?cè)O(shè)置的名字
# 所以我們可以把HDF5看成是目錄,里面不同的目錄對(duì)應(yīng)不同的內(nèi)容
print(hdf5.keys()) # ['/dataframe', '/series']
# 查看元素直接調(diào)用即可
print(hdf5["dataframe"])
"""
0 1 2 3
0 4 8 5 6
1 4 6 7 9
2 6 3 9 4
3 8 9 3 9
4 6 6 3 4
5 6 9 9 8
6 4 8 9 6
7 9 5 8 8
"""
# 刪除某個(gè)key,調(diào)用remove
hdf5.remove("series")
print(hdf5.keys()) # ['/dataframe']
# 如果想將數(shù)據(jù)保存到本地,那么調(diào)用close方法即可
hdf5.close()
# 查看數(shù)據(jù)流是否開啟,返回False代表關(guān)閉了
print(hdf5.is_open) # False
# 另外創(chuàng)建HDF5文件,除了使用HDFStore,還可以通過先有的DataFrame進(jìn)行操作。需要指定路徑和key
# df.to_hdf("xx.h5", key="key")
下面來看看如何讀取文件
import pandas as pd
import numpy as np
# 將mode改成r即可
hdf5 = pd.HDFStore("hello.h5", mode="r")
# 或者
"""
hdfs = pd.read_hdf("hello.h5", key="xxx")
"""
# 至于操作我們上面已經(jīng)介紹了
hdf5這種格式是一種非常不錯(cuò)的格式,它無論是在存儲(chǔ)方面和讀取方面,文件大小和讀取數(shù)據(jù)都比csv強(qiáng)不少,因此如果要存儲(chǔ)大量的數(shù)據(jù)的話,那么hdf5這種文件格式是一種非常不錯(cuò)的選擇。
以上就是如何用pandas處理hdf5文件的詳細(xì)內(nèi)容,更多關(guān)于pandas處理hdf5文件的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
Python 如何將integer轉(zhuǎn)化為羅馬數(shù)(3999以內(nèi))
這篇文章主要介紹了Python 將integer轉(zhuǎn)化為羅馬數(shù)(3999以內(nèi))的操作,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2021-06-06
解決Tensorboard 不顯示計(jì)算圖graph的問題
今天小編就為大家分享一篇解決Tensorboard 不顯示計(jì)算圖graph的問題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2020-02-02
Django 如何從request中獲取前端數(shù)據(jù)
這篇文章主要介紹了Django從request中獲取前端數(shù)據(jù)的操作,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2021-04-04
Python中的省略號(hào)(Ellipsis)賦值方式詳解
在Python編程中,省略號(hào)(...)是一種特殊對(duì)象,主要用作函數(shù)占位、未實(shí)現(xiàn)的方法示例和NumPy數(shù)組處理,本文通過示例詳細(xì)解釋了省略號(hào)的賦值方式及其在不同編程場(chǎng)景下的應(yīng)用,幫助提升Python編程技巧2024-10-10
python實(shí)戰(zhàn)練習(xí)做一個(gè)隨機(jī)點(diǎn)名的程序
讀萬卷書不如行萬里路,只學(xué)書上的理論是遠(yuǎn)遠(yuǎn)不夠的,只有在實(shí)戰(zhàn)中才能獲得能力的提升,本篇文章手把手帶你用Python實(shí)現(xiàn)一個(gè)隨機(jī)點(diǎn)名的程序,大家可以在過程中查缺補(bǔ)漏,提升水平2021-10-10
Pygame實(shí)戰(zhàn)之檢測(cè)按鍵正確的小游戲
這篇文章主要為大家介紹了利用Pygame模塊實(shí)現(xiàn)的檢測(cè)按鍵正確的小游戲:每個(gè)字母有10秒的按鍵時(shí)間,如果按對(duì),則隨機(jī)產(chǎn)生新的字符,一共60s,如果時(shí)間到了,則游戲結(jié)束。快來跟隨小編一起學(xué)習(xí)一下吧2021-12-12
python字典setdefault方法和get方法使用實(shí)例
這篇文章主要介紹了python字典setdefault方法和get方法使用實(shí)例,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2019-12-12
在Python中使用K-Means聚類和PCA主成分分析進(jìn)行圖像壓縮
這篇文章主要介紹了在Python中使用K-Means聚類和PCA主成分分析進(jìn)行圖像壓縮,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-04-04

