淺談pytorch中stack和cat的及to_tensor的坑
初入計算機視覺遇到的一些坑
1.pytorch中轉(zhuǎn)tensor
x=np.random.randint(10,100,(10,10,10)) x=TF.to_tensor(x) print(x)
這個函數(shù)會對輸入數(shù)據(jù)進行自動歸一化,比如有時候我們需要將0-255的圖片轉(zhuǎn)為numpy類型的數(shù)據(jù),則會自動轉(zhuǎn)為0-1之間
2.stack和cat之間的差別
stack
x=torch.randn((1,2,3)) y=torch.randn((1,2,3)) z=torch.stack((x,y))#默認dim=0 print(z.shape) #torch.Size([2, 1, 2, 3])
所以stack的之后的數(shù)據(jù)也就很好理解了,z[0,...]的數(shù)據(jù)是x,z[1,...]的數(shù)據(jù)是y。
cat
z=torch.cat((x,y)) print(z.size()) #torch.Size([2, 2, 3])
cat之后的數(shù)據(jù) z[0,:,:]是x的值,z[1,:,:]是y的值。
其中最關(guān)鍵的是stack之后的數(shù)據(jù)的size會多出一個維度,而cat則不會,有一個很簡單的例子來說明一下,比如要訓(xùn)練一個檢測模型,label是一些標記點,eg:[x1,y1,x2,y2]
送入網(wǎng)絡(luò)的加上batchsize則時Size:[batchsize,4],如果我已經(jīng)有了兩堆數(shù)據(jù),data1:Size[128,4],data2:Size[128,4],需要將這兩個數(shù)據(jù)合在一起的話目標data:Size[256,4]。
顯然我們要做的是:torch.cat((data1,data2))
如果我們的數(shù)據(jù)是這樣:有100個label,每一個label被放進一個list(data)中,[[x1,y1,x2,y2],[x1,y1,x2,y2],...]其中data是一個list長度為100,而list中每一個元素是張圖片的標簽,size為[4]我們需要將他們合一起成為一Size:[100,4]的的數(shù)據(jù)。
顯然我們要做的是torch.stack(data)。而且torch.stack的輸入?yún)?shù)為list類型!
補充:pytorch中的cat、stack、tranpose、permute、unsqeeze
pytorch中提供了對tensor常用的變換操作。
cat 連接
對數(shù)據(jù)沿著某一維度進行拼接。cat后數(shù)據(jù)的總維數(shù)不變。
比如下面代碼對兩個2維tensor(分別為2*3,1*3)進行拼接,拼接完后變?yōu)?*3還是2維的tensor。
代碼如下:
import torch torch.manual_seed(1) x = torch.randn(2,3) y = torch.randn(1,3) print(x,y)
結(jié)果:
0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661
[torch.FloatTensor of size 2x3]
-1.5228 0.3817 -1.0276
[torch.FloatTensor of size 1x3]
將兩個tensor拼在一起:
torch.cat((x,y),0)
結(jié)果:
0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661
-1.5228 0.3817 -1.0276
[torch.FloatTensor of size 3x3]
更靈活的拼法:
torch.manual_seed(1) x = torch.randn(2,3) print(x) print(torch.cat((x,x),0)) print(torch.cat((x,x),1))
結(jié)果
// x
0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661
[torch.FloatTensor of size 2x3]// torch.cat((x,x),0)
0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661
0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661
[torch.FloatTensor of size 4x3]// torch.cat((x,x),1)
0.6614 0.2669 0.0617 0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661 0.6213 -0.4519 -0.1661
[torch.FloatTensor of size 2x6]
stack,增加新的維度進行堆疊
而stack則會增加新的維度。
如對兩個1*2維的tensor在第0個維度上stack,則會變?yōu)?*1*2的tensor;在第1個維度上stack,則會變?yōu)?*2*2的tensor。
見代碼:
a = torch.ones([1,2]) b = torch.ones([1,2]) c= torch.stack([a,b],0) // 第0個維度stack
輸出:
(0 ,.,.) =
1 1(1 ,.,.) =
1 1
[torch.FloatTensor of size 2x1x2]
c= torch.stack([a,b],1) // 第1個維度stack
輸出:
(0 ,.,.) =
1 1
1 1
[torch.FloatTensor of size 1x2x2]
transpose ,兩個維度互換
代碼如下:
torch.manual_seed(1) x = torch.randn(2,3) print(x)
原來x的結(jié)果:
0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661
[torch.FloatTensor of size 2x3]
將x的維度互換
x.transpose(0,1)
結(jié)果
0.6614 0.6213
0.2669 -0.4519
0.0617 -0.1661
[torch.FloatTensor of size 3x2]
permute,多個維度互換,更靈活的transpose
permute是更靈活的transpose,可以靈活的對原數(shù)據(jù)的維度進行調(diào)換,而數(shù)據(jù)本身不變。
代碼如下:
x = torch.randn(2,3,4) print(x.size()) x_p = x.permute(1,0,2) # 將原來第1維變?yōu)?維,同理,0→1,2→2 print(x_p.size())
結(jié)果:
torch.Size([2, 3, 4])
torch.Size([3, 2, 4])
squeeze 和 unsqueeze
常用來增加或減少維度,如沒有batch維度時,增加batch維度為1。
squeeze(dim_n)壓縮,減少dim_n維度 ,即去掉元素數(shù)量為1的dim_n維度。
unsqueeze(dim_n),增加dim_n維度,元素數(shù)量為1。
上代碼:
# 定義張量 import torch b = torch.Tensor(2,1) b.shape Out[28]: torch.Size([2, 1]) # 不加參數(shù),去掉所有為元素個數(shù)為1的維度 b_ = b.squeeze() b_.shape Out[30]: torch.Size([2]) # 加上參數(shù),去掉第一維的元素為1,不起作用,因為第一維有2個元素 b_ = b.squeeze(0) b_.shape Out[32]: torch.Size([2, 1]) # 這樣就可以了 b_ = b.squeeze(1) b_.shape Out[34]: torch.Size([2]) # 增加一個維度 b_ = b.unsqueeze(2) b_.shape Out[36]: torch.Size([2, 1, 1])
以上為個人經(jīng)驗,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關(guān)文章
解決pycharm無法識別本地site-packages的問題
今天小編就為大家分享一篇解決pycharm無法識別本地site-packages的問題,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-10-10
Python os模塊中的isfile()和isdir()函數(shù)均返回false問題解決方法
這篇文章主要介紹了Python os模塊中的isfile()和isdir()函數(shù)均返回false問題解決方法,返回false的原因是路徑使用了相對路徑,使用絕對路徑就可以解決這個問題,需要的朋友可以參考下2015-02-02
python enumerate函數(shù)的使用方法總結(jié)
這篇文章主要介紹了python enumerate使用方法總結(jié),enumerate函數(shù)用于遍歷序列中的元素以及它們的下標,有興趣的可以了解一下2017-11-11
Flask框架使用DBUtils模塊連接數(shù)據(jù)庫操作示例
這篇文章主要介紹了Flask框架使用DBUtils模塊連接數(shù)據(jù)庫操作,結(jié)合實例形式較為詳細的分析了flask框架使用DBUtils模塊連接數(shù)據(jù)庫的常見操作技巧與相關(guān)注意事項,需要的朋友可以參考下2018-07-07
Python中bs4的soup.find()和soup.find_all()用法示例小結(jié)
我們在使用python對網(wǎng)頁爬蟲的時候,經(jīng)常會得到一些html數(shù)據(jù),因此我們就會利用soup.find()和soup.find_all()方法來篩選出想要的數(shù)據(jù),這篇文章主要介紹了Python中bs4的soup.find()和soup.find_all()用法,需要的朋友可以參考下2024-12-12
Python利用Selenium實現(xiàn)簡單的中英互譯功能
Selenium 是一個用于 Web 應(yīng)用程序測試的工具,最初是為網(wǎng)站自動化測試而開發(fā)的,可以直接運行在瀏覽器上,是 Python 的一個第三方庫,對外提供的接口能夠操作瀏覽器,從而讓瀏覽器完成自動化的操作,本文介紹了如何利用Python中的Selenium實現(xiàn)簡單的中英互譯2024-08-08

