YOLOv5改進(jìn)教程之添加注意力機(jī)制

更新時(shí)間：2022年06月27日 08:58:55 作者：weixin_47060902

注意力機(jī)制最先被用在NLP領(lǐng)域,Attention就是為了讓模型認(rèn)識(shí)到數(shù)據(jù)中哪一部分是最重要的,為它分配更大的權(quán)重,獲得更多的注意力在一些特征上,讓模型表現(xiàn)更好,這篇文章主要給大家介紹了關(guān)于YOLOv5改進(jìn)教程之添加注意力機(jī)制的相關(guān)資料,需要的朋友可以參考下

本文主要給大家講解一下，如何在yolov5中添加注意力機(jī)制，

這里提供SE通道注意力的改進(jìn)方法，其他注意力的添加方法，大同小異

首先找到SE注意力機(jī)制的pytorch代碼

class SELayer(nn.Module):
    def __init__(self, c1, r=16):
        super(SELayer, self).__init__()
        self.avgpool = nn.AdaptiveAvgPool2d(1)
        self.l1 = nn.Linear(c1, c1 // r, bias=False)
        self.relu = nn.ReLU(inplace=True)
        self.l2 = nn.Linear(c1 // r, c1, bias=False)
        self.sig = nn.Sigmoid()
 
    def forward(self, x):
        b, c, _, _ = x.size()
        y = self.avgpool(x).view(b, c)
        y = self.l1(y)
        y = self.relu(y)
        y = self.l2(y)
        y = self.sig(y)
        y = y.view(b, c, 1, 1)
        return x * y.expand_as(x)

直接把SE注意力機(jī)制的程序，復(fù)制到models文件夾下面的common.py文件中

然后找到y(tǒng)olo.py，在這個(gè)文件中找到下面這一行

然后把SE添加到這個(gè)注冊(cè)表里，

直接在C3Ghost后面加上SELayer

然后是要修改yaml文件，對(duì)于SE這種即插即用的注意力機(jī)制，輸入和輸出的通道數(shù)相同，所以不會(huì)影響其他模塊的運(yùn)行

注意力機(jī)制也可以插在其他地方，只要注意把通道數(shù)對(duì)應(yīng)好就行

然后head部分也要進(jìn)行相應(yīng)的修改，因?yàn)槲覀兌嗉恿艘粚樱孕枰３謍ead以及最后的輸出層不變就得稍微改一下head部分，同樣，注意力機(jī)制也可以放在head里面，跟加在backbone里面的方法相同。

這是原始的head部分，需要修改成下面這樣

因?yàn)槲覀儼裇E注意力機(jī)制插在第八層之后，所以原先的14層就變成了15層，同樣的，最后的輸出也需要把層數(shù)加一。

添加這些注意力機(jī)制是yolov5最基礎(chǔ)的改進(jìn)，但是說(shuō)實(shí)話，注意力機(jī)制可以添加在很多的地方，不一定會(huì)有效果，所以插在哪里效果最好就需要大家自行討論了。注意力機(jī)制也有很多種，se注意力機(jī)制應(yīng)該是屬于最基礎(chǔ)的通道注意力了吧

總結(jié)

到此這篇關(guān)于YOLOv5改進(jìn)教程之添加注意力機(jī)制的文章就介紹到這了,更多相關(guān)YOLOv5添加注意力機(jī)制內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

您可能感興趣的文章:

相關(guān)文章

python入門(mén)課程第一講之安裝與優(yōu)缺點(diǎn)介紹
這篇文章主要介紹了python入門(mén)課程第一講之安裝與優(yōu)缺點(diǎn)，本文給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下
2021-09-09
python請(qǐng)求域名requests.(url = 地址)報(bào)錯(cuò)
本文主要介紹了python請(qǐng)求域名requests.(url = 地址)報(bào)錯(cuò)，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
2023-02-02
基于python判斷字符串括號(hào)是否閉合{}[]()
這篇文章主要介紹了基于python判斷字符串括號(hào)是否閉合{}[](),文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
2020-09-09
python2.7實(shí)現(xiàn)郵件發(fā)送功能
這篇文章主要為大家詳細(xì)介紹了python2.7實(shí)現(xiàn)郵件發(fā)送功能包，含文本、附件、正文圖片等，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下
2018-12-12
Python?Ajax爬蟲(chóng)案例分享
這篇文章主要介紹了Python?Ajax爬蟲(chóng)案例分享，文章會(huì)從街拍鏈接里面爬取圖片結(jié)構(gòu)，下面文章對(duì)正在學(xué)習(xí)的你有一定的幫助，需要的小伙伴可以參考一下
2022-02-02
Python中schedule擴(kuò)展的具體使用
Python的schedule模塊是一個(gè)輕量級(jí)的Python庫(kù),用于在指定時(shí)間執(zhí)行某些操作,本文就來(lái)介紹一下Python中schedule擴(kuò)展的具體使用,感興趣的可以了解一下
2024-12-12
PowerShell的基本使用方法
本文主要介紹了PowerShell的基本使用方法，文中通過(guò)示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下
2021-12-12
Python基于SMTP發(fā)送郵件的方法
這篇文章主要介紹了Python基于SMTP 發(fā)送郵件的方法，幫助大家更好的理解和學(xué)習(xí)使用python，感興趣的朋友可以了解下
2021-03-03
深度學(xué)習(xí)的MNIST手寫(xiě)數(shù)字?jǐn)?shù)據(jù)集識(shí)別方式(準(zhǔn)確率99%,附代碼)
這篇文章主要介紹了深度學(xué)習(xí)的MNIST手寫(xiě)數(shù)字?jǐn)?shù)據(jù)集識(shí)別方式(準(zhǔn)確率99%,附代碼),具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
2024-06-06
使用Python的pygame庫(kù)繪制圖形示例詳解
這篇文章主要介紹了使用Python的Pygame庫(kù)繪制圖形的方法,Pygame是被設(shè)計(jì)用來(lái)寫(xiě)游戲的python模塊集合,Pygame是在優(yōu)秀的SDL庫(kù)之上開(kāi)發(fā)的功能性包,通常使用Pygame來(lái)開(kāi)發(fā)具有全部特性的游戲和多媒體軟件,感興趣的朋友可以參考下
2024-02-02