Pytorch圖像處理注意力機制解析及代碼詳解
什么是注意力機制
注意力機制是一個非常有效的trick，注意力機制的實現(xiàn)方式有許多，我們一起來學習一下
注意力機制是深度學習常用的一個小技巧，它有多種多樣的實現(xiàn)形式，盡管實現(xiàn)方式多樣，但是每一種注意力機制的實現(xiàn)的核心都是類似的，就是注意力。
注意力機制的核心重點就是讓網絡關注到它更需要關注的地方。
當我們使用卷積神經網絡去處理圖片的時候，我們會更希望卷積神經網絡去注意應該注意的地方，而不是什么都關注，我們不可能手動去調節(jié)需要注意的地方，這個時候，如何讓卷積神經網絡去自適應的注意重要的物體變得極為重要。
注意力機制就是實現(xiàn)網絡自適應注意的一個方式。
一般而言，注意力機制可以分為通道注意力機制，空間注意力機制，以及二者的結合。
注意力機制的實現(xiàn)方式
在深度學習中，常見的注意力機制的實現(xiàn)方式有SENet，CBAM，ECA等等。
1、SENet的實現(xiàn)
SENet是通道注意力機制的典型實現(xiàn)。
2017年提出的SENet是最后一屆ImageNet競賽的冠軍，其實現(xiàn)示意圖如下所示，對于輸入進來的特征層，我們關注其每一個通道的權重，對于SENet而言，其重點是獲得輸入進來的特征層，每一個通道的權值。利用SENet，我們可以讓網絡關注它最需要關注的通道。
其具體實現(xiàn)方式就是：
1、對輸入進來的特征層進行全局平均池化。
2、然后進行兩次全連接，第一次全連接神經元個數較少，第二次全連接神經元個數和輸入特征層相同。
3、在完成兩次全連接后，我們再取一次Sigmoid將值固定到0-1之間，此時我們獲得了輸入特征層每一個通道的權值（0-1之間）。
4、在獲得這個權值后，我們將這個權值乘上原輸入特征層即可。
實現(xiàn)代碼如下：
import torch
import torch.nn as nn
import math
class se_block(nn.Module):
def __init__(self, channel, ratio=16):
super(se_block, self).__init__()
self.avg_pool = nn.AdaptiveAvgPool2d(1)
self.fc = nn.Sequential(
nn.Linear(channel, channel // ratio, bias=False),
nn.ReLU(inplace=True),
nn.Linear(channel // ratio, channel, bias=False),
nn.Sigmoid()
)
def forward(self, x):
b, c, _, _ = x.size()
y = self.avg_pool(x).view(b, c)
y = self.fc(y).view(b, c, 1, 1)
return x * y
2、CBAM的實現(xiàn)
CBAM將通道注意力機制和空間注意力機制進行一個結合，相比于SENet只關注通道的注意力機制可以取得更好的效果。其實現(xiàn)示意圖如下所示，CBAM會對輸入進來的特征層，分別進行通道注意力機制的處理和空間注意力機制的處理。
下圖是通道注意力機制和空間注意力機制的具體實現(xiàn)方式：
圖像的上半部分為通道注意力機制，通道注意力機制的實現(xiàn)可以分為兩個部分，我們會對輸入進來的單個特征層，分別進行全局平均池化和全局最大池化。之后對平均池化和最大池化的結果，利用共享的全連接層進行處理，我們會對處理后的兩個結果進行相加，然后取一個sigmoid，此時我們獲得了輸入特征層每一個通道的權值（0-1之間）。
在獲得這個權值后，我們將這個權值乘上原輸入特征層即可。
圖像的下半部分為空間注意力機制，我們會對輸入進來的特征層，在每一個特征點的通道上取最大值和平均值。之后將這兩個結果進行一個堆疊，利用一次通道數為1的卷積調整通道數，然后取一個sigmoid，此時我們獲得了輸入特征層每一個特征點的權值（0-1之間）。
在獲得這個權值后，我們將這個權值乘上原輸入特征層即可。
實現(xiàn)代碼如下：
class ChannelAttention(nn.Module):
def __init__(self, in_planes, ratio=8):
super(ChannelAttention, self).__init__()
self.avg_pool = nn.AdaptiveAvgPool2d(1)
self.max_pool = nn.AdaptiveMaxPool2d(1)
# 利用1x1卷積代替全連接
self.fc1 = nn.Conv2d(in_planes, in_planes // ratio, 1, bias=False)
self.relu1 = nn.ReLU()
self.fc2 = nn.Conv2d(in_planes // ratio, in_planes, 1, bias=False)
self.sigmoid = nn.Sigmoid()
def forward(self, x):
avg_out = self.fc2(self.relu1(self.fc1(self.avg_pool(x))))
max_out = self.fc2(self.relu1(self.fc1(self.max_pool(x))))
out = avg_out + max_out
return self.sigmoid(out)
class SpatialAttention(nn.Module):
def __init__(self, kernel_size=7):
super(SpatialAttention, self).__init__()
assert kernel_size in (3, 7), 'kernel size must be 3 or 7'
padding = 3 if kernel_size == 7 else 1
self.conv1 = nn.Conv2d(2, 1, kernel_size, padding=padding, bias=False)
self.sigmoid = nn.Sigmoid()
def forward(self, x):
avg_out = torch.mean(x, dim=1, keepdim=True)
max_out, _ = torch.max(x, dim=1, keepdim=True)
x = torch.cat([avg_out, max_out], dim=1)
x = self.conv1(x)
return self.sigmoid(x)
class cbam_block(nn.Module):
def __init__(self, channel, ratio=8, kernel_size=7):
super(cbam_block, self).__init__()
self.channelattention = ChannelAttention(channel, ratio=ratio)
self.spatialattention = SpatialAttention(kernel_size=kernel_size)
def forward(self, x):
x = x * self.channelattention(x)
x = x * self.spatialattention(x)
return x
3、ECA的實現(xiàn)
ECANet是也是通道注意力機制的一種實現(xiàn)形式。ECANet可以看作是SENet的改進版。
ECANet的作者認為SENet對通道注意力機制的預測帶來了副作用，捕獲所有通道的依賴關系是低效并且是不必要的。
在ECANet的論文中，作者認為卷積具有良好的跨通道信息獲取能力。
ECA模塊的思想是非常簡單的，它去除了原來SE模塊中的全連接層，直接在全局平均池化之后的特征上通過一個1D卷積進行學習。
既然使用到了1D卷積，那么1D卷積的卷積核大小的選擇就變得非常重要了，了解過卷積原理的同學很快就可以明白，1D卷積的卷積核大小會影響注意力機制每個權重的計算要考慮的通道數量。用更專業(yè)的名詞就是跨通道交互的覆蓋率。
如下圖所示，左圖是常規(guī)的SE模塊，右圖是ECA模塊。ECA模塊用1D卷積替換兩次全連接。
實現(xiàn)代碼如下：
class eca_block(nn.Module):
def __init__(self, channel, b=1, gamma=2):
super(eca_block, self).__init__()
kernel_size = int(abs((math.log(channel, 2) + b) / gamma))
kernel_size = kernel_size if kernel_size % 2 else kernel_size + 1
self.avg_pool = nn.AdaptiveAvgPool2d(1)
self.conv = nn.Conv1d(1, 1, kernel_size=kernel_size, padding=(kernel_size - 1) // 2, bias=False)
self.sigmoid = nn.Sigmoid()
def forward(self, x):
y = self.avg_pool(x)
y = self.conv(y.squeeze(-1).transpose(-1, -2)).transpose(-1, -2).unsqueeze(-1)
y = self.sigmoid(y)
return x * y.expand_as(x)
注意力機制的應用
注意力機制是一個即插即用的模塊，理論上可以放在任何一個特征層后面，可以放在主干網絡，也可以放在加強特征提取網絡。
由于放置在主干會導致網絡的預訓練權重無法使用，本文以YoloV4-tiny為例，將注意力機制應用加強特征提取網絡上。
如下圖所示，我們在主干網絡提取出來的兩個有效特征層上增加了注意力機制，同時對上采樣后的結果增加了注意力機制。
實現(xiàn)代碼如下：
attention_block = [se_block, cbam_block, eca_block]
#---------------------------------------------------#
# 特征層->最后的輸出
#---------------------------------------------------#
class YoloBody(nn.Module):
def __init__(self, anchors_mask, num_classes, phi=0):
super(YoloBody, self).__init__()
self.phi = phi
self.backbone = darknet53_tiny(None)
self.conv_for_P5 = BasicConv(512,256,1)
self.yolo_headP5 = yolo_head([512, len(anchors_mask[0]) * (5 + num_classes)],256)
self.upsample = Upsample(256,128)
self.yolo_headP4 = yolo_head([256, len(anchors_mask[1]) * (5 + num_classes)],384)
if 1 <= self.phi and self.phi <= 3:
self.feat1_att = attention_block[self.phi - 1](256)
self.feat2_att = attention_block[self.phi - 1](512)
self.upsample_att = attention_block[self.phi - 1](128)
def forward(self, x):
#---------------------------------------------------#
# 生成CSPdarknet53_tiny的主干模型
# feat1的shape為26,26,256
# feat2的shape為13,13,512
#---------------------------------------------------#
feat1, feat2 = self.backbone(x)
if 1 <= self.phi and self.phi <= 3:
feat1 = self.feat1_att(feat1)
feat2 = self.feat2_att(feat2)
# 13,13,512 -> 13,13,256
P5 = self.conv_for_P5(feat2)
# 13,13,256 -> 13,13,512 -> 13,13,255
out0 = self.yolo_headP5(P5)
# 13,13,256 -> 13,13,128 -> 26,26,128
P5_Upsample = self.upsample(P5)
# 26,26,256 + 26,26,128 -> 26,26,384
if 1 <= self.phi and self.phi <= 3:
P5_Upsample = self.upsample_att(P5_Upsample)
P4 = torch.cat([P5_Upsample,feat1],axis=1)
# 26,26,384 -> 26,26,256 -> 26,26,255
out1 = self.yolo_headP4(P4)
return out0, out1
以上就是Pytorch圖像處理注意力機制解析及代碼詳解的詳細內容，更多關于Pytorch圖像處理注意力機制的資料請關注腳本之家其它相關文章！
相關文章
Python+appium框架原生代碼實現(xiàn)App自動化測試詳解
這篇文章主要介紹了Python+appium框架原生代碼實現(xiàn)App自動化測試詳解，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-03-03
這篇文章主要為大家詳細介紹了Python?NumPy中索引的使用方法，文中的示例代碼講解詳細，對我們學習Python有一定幫助，需要的可以參考一下2022-08-08
windows系統(tǒng)中python使用rar命令壓縮多個文件夾示例
這篇文章主要介紹了windows系統(tǒng)中python使用rar命令壓縮多個文件夾示例,需要的朋友可以參考下2014-05-05
這篇文章主要為大家詳細介紹了基于python實現(xiàn)簡單日歷，文中示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2018-07-07
python中的selenium實現(xiàn)自動向下滾動頁面并指定最大滑動距離
這篇文章主要介紹了python中的selenium實現(xiàn)自動向下滾動頁面并指定最大滑動距離，下文有關selenium的資料介紹有一定的參考價值，需要的小伙伴可以參考一下2022-02-02
將Python代碼打包成可調用SDK的四種方法小結(適用于移動端 App)
Python是一門功能強大、生態(tài)豐富的語言,廣泛用于數據處理、機器學習和后端服務,然而,Python并不是原生的移動端開發(fā)語言,如果希望在移動端App中調用Python代碼,最好的方式是將Python代碼打包成SDK,所以本文給大家介紹了幾種Python代碼打包成可調用SDK的方法2025-04-04
python基于concurrent模塊實現(xiàn)多線程
這篇文章主要介紹了python基于concurrent模塊實現(xiàn)多線程，幫助大家更好的理解和學習使用python，感興趣的朋友可以了解下2021-04-04
這篇文章主要為大家詳細介紹了python實現(xiàn)視頻分幀效果，具有一定的參考價值，感興趣的小伙伴們可以參考一下2019-05-05
這篇文章主要介紹了如何通過一個簡單的Python代碼示例來解釋命名空間和作用域的概念,它詳細說明了內置名稱、全局名稱、局部名稱以及它們之間的查找順序,文中通過代碼介紹的非常詳細,需要的朋友可以參考下2025-04-04
xpath是最常用且最便捷高效的一種解析方式，通用型強，其不僅可以用于python語言中，還可以用于其他語言中，數據解析建議首先xpath2021-09-09