pytorch深度神經(jīng)網(wǎng)絡(luò)入門(mén)準(zhǔn)備自己的圖片數(shù)據(jù)
正文
圖片數(shù)據(jù)一般有兩種情況:
1、所有圖片放在一個(gè)文件夾內(nèi),另外有一個(gè)txt文件顯示標(biāo)簽。
2、不同類(lèi)別的圖片放在不同的文件夾內(nèi),文件夾就是圖片的類(lèi)別。
針對(duì)這兩種不同的情況,數(shù)據(jù)集的準(zhǔn)備也不相同,第一種情況可以自定義一個(gè)Dataset,第二種情況直接調(diào)用torchvision.datasets.ImageFolder來(lái)處理。下面分別進(jìn)行說(shuō)明:
一、所有圖片放在一個(gè)文件夾內(nèi)
這里以mnist數(shù)據(jù)集的10000個(gè)test為例, 我先把test集的10000個(gè)圖片保存出來(lái),并生著對(duì)應(yīng)的txt標(biāo)簽文件。
先在當(dāng)前目錄創(chuàng)建一個(gè)空文件夾mnist_test, 用于保存10000張圖片,接著運(yùn)行代碼:
import torch
import torchvision
import matplotlib.pyplot as plt
from skimage import io
mnist_test= torchvision.datasets.MNIST(
'./mnist', train=False, download=True
)
print('test set:', len(mnist_test))
f=open('mnist_test.txt','w')
for i,(img,label) in enumerate(mnist_test):
img_path="./mnist_test/"+str(i)+".jpg"
io.imsave(img_path,img)
f.write(img_path+' '+str(label)+'\n')
f.close()經(jīng)過(guò)上面的操作,10000張圖片就保存在mnist_test文件夾里了,并在當(dāng)前目錄下生成了一個(gè)mnist_test.txt的文件,大致如下:

前期工作就裝備好了,接著就進(jìn)入正題了:
from torchvision import transforms, utils
from torch.utils.data import Dataset, DataLoader
import matplotlib.pyplot as plt
from PIL import Image
def default_loader(path):
return Image.open(path).convert('RGB')
class MyDataset(Dataset):
def __init__(self, txt, transform=None, target_transform=None, loader=default_loader):
fh = open(txt, 'r')
imgs = []
for line in fh:
line = line.strip('\n')
line = line.rstrip()
words = line.split()
imgs.append((words[0],int(words[1])))
self.imgs = imgs
self.transform = transform
self.target_transform = target_transform
self.loader = loader
def __getitem__(self, index):
fn, label = self.imgs[index]
img = self.loader(fn)
if self.transform is not None:
img = self.transform(img)
return img,label
def __len__(self):
return len(self.imgs)
train_data=MyDataset(txt='mnist_test.txt', transform=transforms.ToTensor())
data_loader = DataLoader(train_data, batch_size=100,shuffle=True)
print(len(data_loader))
def show_batch(imgs):
grid = utils.make_grid(imgs)
plt.imshow(grid.numpy().transpose((1, 2, 0)))
plt.title('Batch from dataloader')
for i, (batch_x, batch_y) in enumerate(data_loader):
if(i<4):
print(i, batch_x.size(),batch_y.size())
show_batch(batch_x)
plt.axis('off')
plt.show()自定義了一個(gè)MyDataset, 繼承自torch.utils.data.Dataset。然后利用torch.utils.data.DataLoader將整個(gè)數(shù)據(jù)集分成多個(gè)批次。
二、不同類(lèi)別的圖片放在不同的文件夾內(nèi)
同樣先準(zhǔn)備數(shù)據(jù),這里以flowers數(shù)據(jù)集為例
提取 鏈接: https://pan.baidu.com/s/1dcAsOOZpUfWNYR77JGXPHA?pwd=mwg6
花總共有五類(lèi),分別放在5個(gè)文件夾下。大致如下圖:

我的路徑是d:/flowers/.
數(shù)據(jù)準(zhǔn)備好了,就開(kāi)始準(zhǔn)備Dataset吧,這里直接調(diào)用torchvision里面的ImageFolder
import torch
import torchvision
from torchvision import transforms, utils
import matplotlib.pyplot as plt
img_data = torchvision.datasets.ImageFolder('D:/bnu/database/flower',
transform=transforms.Compose([
transforms.Scale(256),
transforms.CenterCrop(224),
transforms.ToTensor()])
)
print(len(img_data))
data_loader = torch.utils.data.DataLoader(img_data, batch_size=20,shuffle=True)
print(len(data_loader))
def show_batch(imgs):
grid = utils.make_grid(imgs,nrow=5)
plt.imshow(grid.numpy().transpose((1, 2, 0)))
plt.title('Batch from dataloader')
for i, (batch_x, batch_y) in enumerate(data_loader):
if(i<4):
print(i, batch_x.size(), batch_y.size())
show_batch(batch_x)
plt.axis('off')
plt.show()以上就是pytorch深度神經(jīng)網(wǎng)絡(luò)入門(mén)準(zhǔn)備自己的圖片數(shù)據(jù)的詳細(xì)內(nèi)容,更多關(guān)于pytorch圖片數(shù)據(jù)準(zhǔn)備的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
- PyTorch中的神經(jīng)網(wǎng)絡(luò) Mnist 分類(lèi)任務(wù)
- 使用Pytorch構(gòu)建第一個(gè)神經(jīng)網(wǎng)絡(luò)模型?附案例實(shí)戰(zhàn)
- pytorch簡(jiǎn)單實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)功能
- Pytorch卷積神經(jīng)網(wǎng)絡(luò)遷移學(xué)習(xí)的目標(biāo)及好處
- Pytorch深度學(xué)習(xí)經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)resnet模塊訓(xùn)練
- Pytorch卷積神經(jīng)網(wǎng)絡(luò)resent網(wǎng)絡(luò)實(shí)踐
- PyTorch實(shí)現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)的搭建詳解
- Pytorch神經(jīng)網(wǎng)絡(luò)參數(shù)管理方法詳細(xì)講解
相關(guān)文章
Python使用VIF實(shí)現(xiàn)檢測(cè)多重共線性
多重共線性是指多元回歸模型中有兩個(gè)或兩個(gè)以上的自變量,它們之間具有高度的相關(guān)性,本文主要介紹了如何使用VIF實(shí)現(xiàn)檢測(cè)多重共線性,需要的可以參考下2023-12-12
Python 的第三方調(diào)試庫(kù) ???pysnooper?? 使用示例
這篇文章主要介紹了Python 的第三方調(diào)試庫(kù) ???pysnooper?? 使用示例的相關(guān)資料,需要的朋友可以參考下2023-02-02
python 讀取視頻,處理后,實(shí)時(shí)計(jì)算幀數(shù)fps的方法
今天小編就為大家分享一篇python 讀取視頻,處理后,實(shí)時(shí)計(jì)算幀數(shù)fps的方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2018-07-07
Python批量獲取并保存手機(jī)號(hào)歸屬地和運(yùn)營(yíng)商的示例
這篇文章主要介紹了Python批量獲取并保存手機(jī)號(hào)的歸屬地和運(yùn)營(yíng)商的示例,幫助大家更好的利用python處理數(shù)據(jù),感興趣的朋友可以了解下2020-10-10
python爬蟲(chóng)請(qǐng)求頭設(shè)置代碼
在本篇文章里小編給大家整理的是一篇關(guān)于python爬蟲(chóng)請(qǐng)求頭如何設(shè)置內(nèi)容,需要的朋友們可以學(xué)習(xí)下。2020-07-07
簡(jiǎn)單了解為什么python函數(shù)后有多個(gè)括號(hào)
這篇文章主要介紹了簡(jiǎn)單了解為什么python函數(shù)后有多個(gè)括號(hào),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2019-12-12
python標(biāo)準(zhǔn)庫(kù)學(xué)習(xí)之sys模塊詳解
sys模塊是最常用的和python解釋器交互的模塊,sys模塊可供訪問(wèn)由解釋器(interpreter)使用或維護(hù)的變量和與解釋器進(jìn)行交互的函數(shù),下面這篇文章主要給大家介紹了關(guān)于python標(biāo)準(zhǔn)庫(kù)學(xué)習(xí)之sys模塊的相關(guān)資料,需要的朋友可以參考下2022-08-08

