Pytorch框架之one_hot編碼函數(shù)解讀
Pytorch one_hot編碼函數(shù)解讀
one_hot編碼定義
在一個(gè)給定的向量中,按照設(shè)定的最值–可以是向量中包含的最大值(作為最高分類數(shù)),有也可以是自定義的最大值,設(shè)計(jì)one_hot編碼的長度:最大值+1【詳見舉的例子吧】。
然后按照最大值創(chuàng)建一個(gè)1*(最大值+1)的維度大小的全零零向量:[0, 0, 0, …] => 共最大值+1對(duì)應(yīng)的個(gè)數(shù)
接著按照向量中的值,從第0位開始索引,將向量中值對(duì)應(yīng)的位置設(shè)置為1,其他保持為0.
eg:
假設(shè)設(shè)定one_hot長度為4(最大值) –
且當(dāng)前向量中值為1對(duì)應(yīng)的one_hot編碼:
[0, 1, 0, 0]
當(dāng)前向量中值為2對(duì)應(yīng)的one_hot編碼:
[0, 0, 1, 0]
eg:
假設(shè)設(shè)定one_hot長度為6(等價(jià)最大值+1) –
且當(dāng)前向量中值為4對(duì)應(yīng)的one_hot編碼:
[0, 0, 0, 0, 1, 0]
當(dāng)前向量中值為2對(duì)應(yīng)的one_hot編碼:
[0, 0, 1, 0, 0, 0]
eg:
targets = [4, 1, 0, 3] => max_value=4=>one_hot的長度為(4+1)
假設(shè)設(shè)定one_hot長度為5(最大值) –
且當(dāng)前向量中值為4對(duì)應(yīng)的one_hot編碼:
[0, 0, 0, 0, 1]
當(dāng)前向量中值為1對(duì)應(yīng)的one_hot編碼:
[0, 1, 0, 0, 0]
Pytorch中one_hot轉(zhuǎn)換
import torch targets = torch.tensor([5, 3, 2, 1]) targets_to_one_hot = torch.nn.functional.one_hot(targets) ? # 默認(rèn)按照targets其中的最大值+1作為one_hot編碼的長度 # result:? # tensor( # [0, 0, 0, 0, 0, 1], # [0, 0, 0, 1, 0, 0], # [0, 0, 1, 0, 0, 0], # [0, 1, 0, 0, 0, 0] #) targets_to_one_hot = torch.nn.functional.one_hot(targets, num_classes=7) ?3# 指定one_hot編碼長度為7 # result:? # tensor( # [0, 0, 0, 0, 0, 1, 0], # [0, 0, 0, 1, 0, 0, 0], # [0, 0, 1, 0, 0, 0, 0], # [0, 1, 0, 0, 0, 0, 0] #)
總結(jié):one_hot編碼主要用于分類時(shí),作為一個(gè)類別的編碼–方便判別與相關(guān)計(jì)算;
1. 如同類別數(shù)統(tǒng)計(jì),只需要將one_hot編碼相加得到一個(gè)一維向量就知道了一批數(shù)據(jù)中所有類別的預(yù)測(cè)或真實(shí)的分布情況;
2. 相比于預(yù)測(cè)出具體的類別數(shù)–43等,用向量可以使用向量相關(guān)的算法進(jìn)行時(shí)間上的優(yōu)化等等
Pytorch變量類型轉(zhuǎn)換及one_hot編碼表示
生成張量
y = torch.empty(3, dtype=torch.long).random_(5) y = torch.Tensor(2,3).random_(10) y = torch.randn(3,4).random_(10)
查看類型
y.type y.dtype
類型轉(zhuǎn)化
tensor.long()/int()/float() long(),int(),float() 實(shí)現(xiàn)類型的轉(zhuǎn)化
One_hot編碼表示
def one_hot(y): ? ? ''' ? ? y: (N)的一維tensor,值為每個(gè)樣本的類別 ? ? out: ? ? ? ? y_onehot: 轉(zhuǎn)換為one_hot 編碼格式 ? ? ''' ? ? y = y.view(-1, 1) ? ? # y_onehot = torch.FloatTensor(3, 5) ? ? # y_onehot.zero_() ? ? y_onehot = torch.zeros(3,5) ?# 等價(jià)于上面 ? ? y_onehot.scatter_(1, y, 1) ? ? return y_onehot y = torch.empty(3, dtype=torch.long).random_(5) #標(biāo)簽 res = one_hot(y) ?# 轉(zhuǎn)化為One_hot類型 # One_hot類型標(biāo)簽轉(zhuǎn)化為整數(shù)型列表的兩種方法 h = torch.argmax(res,dim=1) _,h1 = res.max(dim=1)
expand()函數(shù)
這個(gè)函數(shù)的作用就是對(duì)指定的維度進(jìn)行數(shù)值大小的改變。只能改變維大小為1的維,否則就會(huì)報(bào)錯(cuò)。不改變的維可以傳入-1或者原來的數(shù)值。
a=torch.randn(1,1,3,768) print(a.shape) #torch.Size([1, 1, 3, 768]) b=a.expand(2,-1,-1,-1) print(b.shape) #torch.Size([2, 1, 3, 768]) c=a.expand(2,1,3,768) print(c.shape) #torch.Size([2, 1, 3, 768])
repeat()函數(shù)
沿著指定的維度,對(duì)原來的tensor進(jìn)行數(shù)據(jù)復(fù)制。這個(gè)函數(shù)和expand()還是有點(diǎn)區(qū)別的。expand()只能對(duì)維度為1的維進(jìn)行擴(kuò)大,而repeat()對(duì)所有的維度可以隨意操作。
a=torch.randn(2,1,768) print(a) print(a.shape) #torch.Size([2, 1, 768]) b=a.repeat(1,2,1) print(b) print(b.shape) #torch.Size([2, 2, 768]) c=a.repeat(3,3,3) print(c) print(c.shape) #torch.Size([6, 3, 2304])
總結(jié)
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
Python django實(shí)現(xiàn)簡單的郵件系統(tǒng)發(fā)送郵件功能
這篇文章主要介紹了Python django實(shí)現(xiàn)簡單的郵件系統(tǒng)發(fā)送郵件功能,結(jié)合實(shí)例形式分析了django發(fā)送郵件的實(shí)現(xiàn)技巧與相關(guān)注意事項(xiàng),需要的朋友可以參考下2017-07-07
TensorFlow MNIST手寫數(shù)據(jù)集的實(shí)現(xiàn)方法
MNIST數(shù)據(jù)集中包含了各種各樣的手寫數(shù)字圖片,這篇文章主要介紹了TensorFlow MNIST手寫數(shù)據(jù)集的實(shí)現(xiàn)方法,需要的朋友可以參考下2020-02-02
PyTorch之torch.randn()如何創(chuàng)建正態(tài)分布隨機(jī)數(shù)
這篇文章主要介紹了PyTorch之torch.randn()如何創(chuàng)建正態(tài)分布隨機(jī)數(shù)問題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-02-02
使用python對(duì)視頻文件分辨率進(jìn)行分組的實(shí)例代碼
通過對(duì)視頻的分辨路進(jìn)行分類可以在需要的時(shí)候快速找到你想要的視頻分辨率。當(dāng)然人工去分類是一種比較費(fèi)時(shí)費(fèi)力的工作,通過軟件也好,程序也罷都是為了可以提高我們的工作效率。下面通過代碼給大家分享使用python對(duì)視頻文件分辨率進(jìn)行分組的方法,一起看看吧2021-10-10
圖文詳解感知機(jī)算法原理及Python實(shí)現(xiàn)
感知機(jī)是二類分類的線性分類模型,其輸入為實(shí)例的特征向量,輸出為實(shí)例的類別(取+1和-1二值)。本文將為大家詳細(xì)講講感知機(jī)算法的原理及實(shí)現(xiàn),需要的可以參考一下2022-08-08
淺談Python從全局與局部變量到裝飾器的相關(guān)知識(shí)
今天給大家?guī)淼氖顷P(guān)于Python的相關(guān)知識(shí),文章圍繞著Python從全局與局部變量到裝飾器的相關(guān)知識(shí)展開,文中有非常詳細(xì)的介紹及代碼示例,需要的朋友可以參考下2021-06-06

