人工智能學(xué)習(xí)pyTorch的ResNet殘差模塊示例詳解
1.定義ResNet殘差模塊
一個(gè)block中，有兩個(gè)卷積層，之后的輸出還要和輸入進(jìn)行相加。因此一個(gè)block的前向流程如下：
輸入x→卷積層→數(shù)據(jù)標(biāo)準(zhǔn)化→ReLU→卷積層→數(shù)據(jù)標(biāo)準(zhǔn)化→數(shù)據(jù)和x相加→ReLU→輸出out
中間加上了數(shù)據(jù)的標(biāo)準(zhǔn)化（通過(guò)nn.BatchNorm2d實(shí)現(xiàn)），可以使得效果更好一些。
①各層的定義
②前向傳播
在前向傳播中輸入x，過(guò)程中根據(jù)前向流程，調(diào)用上面定義的層即可。
如此，便定義好了一個(gè)殘差的模塊。
2.ResNet18的實(shí)現(xiàn)
此處的ResNet18并沒(méi)有涉及到太多細(xì)節(jié)，只是一個(gè)大致的內(nèi)容。
在初始化的時(shí)候，定義好所需要使用的模塊，根據(jù)上面定義好的殘差模塊，調(diào)用即可。在這里使用了4次殘差模塊，將通道數(shù)從輸入的3（也就是RGB），變成了512通道。也就是最終提取的高級(jí)特征。提取完特征，直接輸入給Linear方法，得到圖片在10種圖片類(lèi)型上的結(jié)果，用于預(yù)測(cè)以及損失值的求解。
①各層的定義
②前向傳播
同樣的，調(diào)用上面定義好的層，根據(jù)流程傳播即可。
3.測(cè)試ResNet18
如下圖，輸入的是2張圖，RGB，長(zhǎng)寬均是32的數(shù)據(jù)。
通過(guò)ResNet18之后，輸出的是2張圖，每張圖對(duì)應(yīng)10種類(lèi)型的不同取值logits。
過(guò)程中的通道數(shù)目的轉(zhuǎn)換如下面的結(jié)果所示：3→64→128→256→512→512
過(guò)程中的尺寸轉(zhuǎn)換，根據(jù)設(shè)置的卷積核，以及步長(zhǎng)，會(huì)有不同的結(jié)果。但總體都是為了得到更高級(jí)的特征，最終輸入全連層，得到Logits。
以上就是人工智能學(xué)習(xí)pyTorch的ResNet殘差模塊示例詳解的詳細(xì)內(nèi)容，更多關(guān)于PyTorch人工智能學(xué)習(xí)ResNet殘差模塊的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章！
相關(guān)文章
Python入門(mén)開(kāi)發(fā)教程 windows下搭建開(kāi)發(fā)環(huán)境vscode的步驟詳解
大家都知道Python是跨平臺(tái)的，它可以運(yùn)行在Windows、Mac和各種Linux/Unix系統(tǒng)上。在Windows上寫(xiě)Python程序，放到Linux上也是能夠運(yùn)行的，今天給大家分享Python開(kāi)發(fā)環(huán)境搭建vscode的步驟，一起看看吧2021-07-07
這篇文章主要介紹了Python中的字典與成員運(yùn)算符初步探究,是Python入門(mén)學(xué)習(xí)中的基礎(chǔ)知識(shí),需要的朋友可以參考下2015-10-10
大家好，本篇文章主要講的是用Python爬取2022春節(jié)檔電影信息，感興趣的同學(xué)趕快來(lái)看一看吧，對(duì)你有幫助的話記得收藏一下2022-01-01
Python實(shí)現(xiàn)子類(lèi)調(diào)用父類(lèi)的初始化實(shí)例
這篇文章主要介紹了Python實(shí)現(xiàn)子類(lèi)調(diào)用父類(lèi)的初始化實(shí)例，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-03-03
這篇文章主要介紹了Python實(shí)現(xiàn)給普通PDF添加水印的方法，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2022-04-04
Jmeter調(diào)用Python腳本實(shí)現(xiàn)參數(shù)互相傳遞的實(shí)現(xiàn)
這篇文章主要介紹了Jmeter調(diào)用Python腳本實(shí)現(xiàn)參數(shù)互相傳遞的實(shí)現(xiàn)，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2021-01-01
這篇文章主要介紹了Python中is和==的區(qū)別詳解，小編覺(jué)得挺不錯(cuò)的，現(xiàn)在分享給大家，也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2018-11-11
python中循環(huán)語(yǔ)句while用法實(shí)例
這篇文章主要介紹了python中循環(huán)語(yǔ)句while用法,實(shí)例分析了while語(yǔ)句的使用方法,需要的朋友可以參考下2015-05-05
Python中playwright啟動(dòng)瀏覽器與常見(jiàn)運(yùn)行方式詳解
Playwright是一個(gè)功能強(qiáng)大的工具,可以幫助開(kāi)發(fā)人員自動(dòng)化測(cè)試、網(wǎng)頁(yè)截圖、信息提取等任務(wù),本文主要介紹了如何使用Playwright來(lái)啟動(dòng)瀏覽器,感興趣的可以了解下2024-05-05
sqlite3模塊是Python中的內(nèi)置模塊,用于與SQLite數(shù)據(jù)庫(kù)交互,本文就來(lái)介紹一下Python的sqlite3模塊中常用函數(shù),感興趣的可以了解一下2023-10-10