pytorch實(shí)現(xiàn)對輸入超過三通道的數(shù)據(jù)進(jìn)行訓(xùn)練
案例背景:視頻識別
假設(shè)每次輸入是8s的灰度視頻,視頻幀率為25fps,則視頻由200幀圖像序列構(gòu)成.每幀是一副單通道的灰度圖像,通過pythonb里面的np.stack(深度拼接)可將200幀拼接成200通道的深度數(shù)據(jù).進(jìn)而送到網(wǎng)絡(luò)里面去訓(xùn)練.
如果輸入圖像200通道覺得多,可以對視頻進(jìn)行抽幀,針對具體場景可以隨機(jī)抽幀或等間隔抽幀.比如這里等間隔抽取40幀.則最后輸入視頻相當(dāng)于輸入一個40通道的圖像數(shù)據(jù)了.
pytorch對超過三通道數(shù)據(jù)的加載:
讀取視頻每一幀,轉(zhuǎn)為array格式,然后依次將每一幀進(jìn)行深度拼接,最后得到一個40通道的array格式的深度數(shù)據(jù),保存到pickle里.
對每個視頻都進(jìn)行上述操作,保存到pickle里.
我這里將火的視頻深度數(shù)據(jù)保存在一個.pkl文件中,一共2504個火的視頻,即2504個火的深度數(shù)據(jù).
將非火的視頻深度數(shù)據(jù)保存在一個.pkl文件中,一共3985個非火的視頻,即3985個非火的深度數(shù)據(jù).
數(shù)據(jù)加載
import torch
from torch.utils import data
import os
from PIL import Image
import numpy as np
import pickle
class Fire_Unfire(data.Dataset):
def __init__(self,fire_path,unfire_path):
self.pickle_fire = open(fire_path,'rb')
self.pickle_unfire = open(unfire_path,'rb')
def __getitem__(self,index):
if index <2504:
fire = pickle.load(self.pickle_fire)#高*寬*通道
fire = fire.transpose(2,0,1)#通道*高*寬
data = torch.from_numpy(fire)
label = 1
return data,label
elif index>=2504 and index<6489:
unfire = pickle.load(self.pickle_unfire)
unfire = unfire.transpose(2,0,1)
data = torch.from_numpy(unfire)
label = 0
return data,label
def __len__(self):
return 6489
root_path = './datasets/train' dataset = Fire_Unfire(root_path +'/fire_train.pkl',root_path +'/unfire_train.pkl') #轉(zhuǎn)換成pytorch網(wǎng)絡(luò)輸入的格式(批量大小,通道數(shù),高,寬) from torch.utils.data import DataLoader fire_dataloader = DataLoader(dataset,batch_size=4,shuffle=True,drop_last = True)
模型訓(xùn)練
import torch
from torch.utils import data
from nets.mobilenet import mobilenet
from config.config import default_config
from torch.autograd import Variable as V
import numpy as np
import sys
import time
opt = default_config()
def train():
#模型定義
model = mobilenet().cuda()
if opt.pretrain_model:
model.load_state_dict(torch.load(opt.pretrain_model))
#損失函數(shù)
criterion = torch.nn.CrossEntropyLoss().cuda()
#學(xué)習(xí)率
lr = opt.lr
#優(yōu)化器
optimizer = torch.optim.SGD(model.parameters(),lr = lr,weight_decay=opt.weight_decay)
pre_loss = 0.0
#訓(xùn)練
for epoch in range(opt.max_epoch):
#訓(xùn)練數(shù)據(jù)
train_data = Fire_Unfire(opt.root_path +'/fire_train.pkl',opt.root_path +'/unfire_train.pkl')
train_dataloader = data.DataLoader(train_data,batch_size=opt.batch_size,shuffle=True,drop_last = True)
loss_sum = 0.0
for i,(datas,labels) in enumerate(train_dataloader):
#print(i,datas.size(),labels)
#梯度清零
optimizer.zero_grad()
#輸入
input = V(datas.cuda()).float()
#目標(biāo)
target = V(labels.cuda()).long()
#輸出
score = model(input).cuda()
#損失
loss = criterion(score,target)
loss_sum += loss
#反向傳播
loss.backward()
#梯度更新
optimizer.step()
print('{}{}{}{}{}'.format('epoch:',epoch,',','loss:',loss))
torch.save(model.state_dict(),'models/mobilenet_%d.pth'%(epoch+370))
RuntimeError: Expected object of scalar type Long but got scalar type Float for argument #2 'target'
解決方案:target = target.long()
以上這篇pytorch實(shí)現(xiàn)對輸入超過三通道的數(shù)據(jù)進(jìn)行訓(xùn)練就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
- pytorch使用horovod多gpu訓(xùn)練的實(shí)現(xiàn)
- pytorch VGG11識別cifar10數(shù)據(jù)集(訓(xùn)練+預(yù)測單張輸入圖片操作)
- 解決pytorch多GPU訓(xùn)練保存的模型,在單GPU環(huán)境下加載出錯問題
- pytorch 使用加載訓(xùn)練好的模型做inference
- Pytorch自己加載單通道圖片用作數(shù)據(jù)集訓(xùn)練的實(shí)例
- PyTorch加載預(yù)訓(xùn)練模型實(shí)例(pretrained)
- Pytorch保存模型用于測試和用于繼續(xù)訓(xùn)練的區(qū)別詳解
- 解決Pytorch 加載訓(xùn)練好的模型 遇到的error問題
- pytorch 準(zhǔn)備、訓(xùn)練和測試自己的圖片數(shù)據(jù)的方法
- 使用PyTorch訓(xùn)練一個圖像分類器實(shí)例
- 使用PyTorch將文件夾下的圖片分為訓(xùn)練集和驗(yàn)證集實(shí)例
- 基于pytorch 預(yù)訓(xùn)練的詞向量用法詳解
- PyTorch預(yù)訓(xùn)練Bert模型的示例
相關(guān)文章
python 遍歷目錄(包括子目錄)下所有文件的實(shí)例
今天小編就為大家分享一篇python 遍歷目錄(包括子目錄)下所有文件的實(shí)例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-07-07
pytorch 預(yù)訓(xùn)練模型讀取修改相關(guān)參數(shù)的填坑問題
這篇文章主要介紹了pytorch 預(yù)訓(xùn)練模型讀取修改相關(guān)參數(shù)的填坑問題,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2021-06-06
python回溯算法實(shí)現(xiàn)全排列小練習(xí)分享
這篇文章主要給大家分享的是python回溯算法實(shí)現(xiàn)全排列小練習(xí),文章根據(jù)例子:輸入列表L(不含重復(fù)元素),輸出L的全排列展開學(xué)習(xí),需要的小伙伴可以參考一下2022-02-02
Python的Flask框架應(yīng)用程序?qū)崿F(xiàn)使用QQ賬號登錄的方法
利用QQ開放平臺的API使用QQ賬號登錄是現(xiàn)在很多網(wǎng)站都具備的功能,而對于Flask框架來說則有Flask-OAuthlib這個現(xiàn)成的輪子,這里我們就來看一下Python的Flask框架應(yīng)用程序?qū)崿F(xiàn)使用QQ賬號登錄的方法2016-06-06

