使用python操作lmdb對數(shù)據(jù)讀取的實例
由于c++速度快,所以一般寫入數(shù)據(jù)我調(diào)用c++借口,而讀取數(shù)據(jù)使用c++也行,但有時候Python在某方面方便,所以通過使用python借口僅僅對lmdb文件讀取,處理數(shù)據(jù)是圖片
import lmdb
import numpy as np
import cv2
lmdb_file = "/home/rui/demo"
lmdb_env = lmdb.open(lmdb_file)
lmdb_txn = lmdb_env.begin()
lmdb_cursor = lmdb_txn.cursor()
for key, value in lmdb_cursor:
img = cv2.imdecode(np.fromstring(value, np.uint8), 3);
cv2.imshow("demo", img)
cv2.waitKey(0)
補充知識:Python解析lmdb格式mnist數(shù)據(jù)集
背景
HDF5和LMDB都是Cafffe中常用的數(shù)據(jù)庫。相對來說,HDF5的讀寫格式簡單;LMDB采用內(nèi)存-映射文件(memory-mapped files),所以擁有非常好的I/O性能,而且對于大型數(shù)據(jù)庫來說,HDF5的文件常常整個寫入內(nèi)存。
所以HDF5的文件大小就受限于內(nèi)存大小,當然也可以通過文件分割來解決問題,但其I/O性能就不如LMDB的頁緩存(page cachiing)策略了。
MNIST手寫數(shù)字字符識別實驗在deep learning 中經(jīng)常用到,這里使用Python來獲取lmdb格式MNIST數(shù)據(jù)集中的圖片并顯示出來
Python讀取LMDB
首先確認你安裝了lmdb和Caffe的python包(Caffe中的pycaffe)。
pip install lmdb
LMDB采用鍵值對的存儲格式,key就是字符形式的ID,value是Caffe中Datum類的序列化形式。
# -*- coding:utf-8 -*-
import caffe
from caffe.proto import caffe_pb2
import lmdb
import cv2 as cv
env = lmdb.open("mnist_train_lmdb", readonly=True) # 打開數(shù)據(jù)文件
txn = env.begin() # 生成處理句柄
cur = txn.cursor() # 生成迭代器指針
datum = caffe_pb2.Datum() # caffe 定義的數(shù)據(jù)類型
for key, value in cur:
print(type(key), key)
datum.ParseFromString(value) # 反序列化成datum對象
label = datum.label
data = caffe.io.datum_to_array(datum)
print data.shape
print datum.channels
image = data[0]
# image = data.transpose(1, 2, 0)
print(type(label))
cv.imshow(str(label), image)
cv.waitKey(0)
cv.destroyAllWindows()
env.close()
運行結(jié)果:


讀取LMDB數(shù)據(jù)庫中的Datum數(shù)據(jù),這里再稍微介紹一下Datum的格式:channels:圖片的通道,彩色圖有3個通道,灰度圖只有1通道,當然也可以用通道數(shù)來表示其他意思,比如表示兩張圖片,每個通道一個單張的圖;height:圖片(即data)的高;width:圖片(即data)的寬;data:圖片的數(shù)據(jù)(像素值);label:圖片的label。(datum.channels, datum.height, datum.width)
以上這篇使用python操作lmdb對數(shù)據(jù)讀取的實例就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關(guān)文章
在Python中,不用while和for循環(huán)遍歷列表的實例
今天小編就為大家分享一篇在Python中,不用while和for循環(huán)遍歷列表的實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-02-02
python獲取外網(wǎng)ip地址的方法總結(jié)
這篇文章主要介紹了python獲取外網(wǎng)ip地址的方法,實例總結(jié)了四種常用的獲取外網(wǎng)IP地址的技巧,需要的朋友可以參考下2015-07-07
Python獲取Linux系統(tǒng)下的本機IP地址代碼分享
這篇文章主要介紹了Python獲取Linux系統(tǒng)下的本機IP地址代碼分享,本文直接給出實現(xiàn)代碼,可以獲取到eth0等網(wǎng)卡的IP地址,需要的朋友可以參考下2014-11-11

