我對PyTorch dataloader里的shuffle=True的理解
對shuffle=True的理解:
之前不了解shuffle的實際效果,假設(shè)有數(shù)據(jù)a,b,c,d,不知道batch_size=2后打亂,具體是如下哪一種情況:
1.先按順序取batch,對batch內(nèi)打亂,即先取a,b,a,b進行打亂;
2.先打亂,再取batch。
證明是第二種
shuffle (bool, optional): set to ``True`` to have the data reshuffled
at every epoch (default: ``False``).
if shuffle:
sampler = RandomSampler(dataset) #此時得到的是索引
補充:簡單測試一下pytorch dataloader里的shuffle=True是如何工作的
看代碼吧~
import sys
import torch
import random
import argparse
import numpy as np
import pandas as pd
import torch.nn as nn
from torch.nn import functional as F
from torch.optim import lr_scheduler
from torchvision import datasets, transforms
from torch.utils.data import TensorDataset, DataLoader, Dataset
class DealDataset(Dataset):
def __init__(self):
xy = np.loadtxt(open('./iris.csv','rb'), delimiter=',', dtype=np.float32)
#data = pd.read_csv("iris.csv",header=None)
#xy = data.values
self.x_data = torch.from_numpy(xy[:, 0:-1])
self.y_data = torch.from_numpy(xy[:, [-1]])
self.len = xy.shape[0]
def __getitem__(self, index):
return self.x_data[index], self.y_data[index]
def __len__(self):
return self.len
dealDataset = DealDataset()
train_loader2 = DataLoader(dataset=dealDataset,
batch_size=2,
shuffle=True)
#print(dealDataset.x_data)
for i, data in enumerate(train_loader2):
inputs, labels = data
#inputs, labels = Variable(inputs), Variable(labels)
print(inputs)
#print("epoch:", epoch, "的第" , i, "個inputs", inputs.data.size(), "labels", labels.data.size())
簡易數(shù)據(jù)集
![]()

shuffle之后的結(jié)果,每次都是隨機打亂,然后分成大小為n的若干個mini-batch.

以上為個人經(jīng)驗,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關(guān)文章
Python文件遍歷os.walk()與os.listdir()使用及說明
這篇文章主要介紹了Python文件遍歷os.walk()與os.listdir()使用及說明,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2022-11-11
Python實現(xiàn)excel轉(zhuǎn)sqlite的方法
這篇文章主要介紹了Python實現(xiàn)excel轉(zhuǎn)sqlite的方法,結(jié)合實例形式分析了Python基于第三方庫xlrd讀取Excel文件及寫入sqlite的相關(guān)操作技巧,需要的朋友可以參考下2017-07-07
Python Pandas兩個表格內(nèi)容模糊匹配的實現(xiàn)
模糊查詢大家應該都不會陌生,下面這篇文章主要給大家介紹了關(guān)于Python Pandas兩個表格內(nèi)容模糊匹配的實現(xiàn)方法,文中通過示例代碼介紹的非常詳細,需要的朋友可以參考下2021-11-11

