①SEnet
SEnet（-and- ）考虑了特征通道之间的关系，在特征通道上加入了注意力机制 。
SEnet通过学习的方式自动获取每个特征通道的重要程度，并且利用得到的重要程度来提升特征并抑制对当前任务不重要的特征 。SEnet通过模块和模块实现所述功能 。

文章插图
如上图所示，首先作者通过操作，对空间维度进行压缩，直白的说就是对每个特征图做全局池化，平均成一个实数值 。该实数从某种程度上来说具有全局感受野 。作者提到该操作能够使得靠近数据输入的特征也可以具有全局感受野，这一点在很多的任务中是非常有用的 。紧接着就是操作，由于经过操作后，网络输出了1*1*C大小的特征图，作者利用权重w来学习C个通道直接的相关性 。在实际应用时有的框架使用全连接，有的框架使用1*1的卷积实现，从参数计算角度我更加推荐使用1*1卷积，也就是下面代码中的fc2操作 。该过程中作者先对C个通道降维再扩展回C通道 。好处就是一方面降低了网络计算量，一方面增加了网络的非线性能力 。最后一个操作时将的输出看作是经过特征选择后的每个通道的重要性，通过乘法加权的方式乘到先前的特征上，从事实现提升重要特征，抑制不重要特征这个功能 。
#https://github.com/Amanbhandula/AlphaPose/blob/master/train_sppe/src/models/layers/SE_module.pyclass SELayer(nn.Module):def __init__(self, channel, reduction=1):super(SELayer, self).__init__()self.avg_pool = nn.AdaptiveAvgPool2d(1)self.fc1 = nn.Sequential(nn.Linear(channel, channel / reduction),nn.ReLU(inplace=True),nn.Linear(channel / reduction, channel),nn.Sigmoid())self.fc2 = nn.Sequential(nn.Conv2d(channel , channel / reduction, 1, bias=False)nn.ReLU(inplace=True),nn.Conv2d(channel , channel / reduction, 1, bias=False)nn.Sigmoid())def forward(self, x):b, c, _, _ = x.size()y = self.avg_pool(x).view(b, c)y = self.fc1(y).view(b, c, 1, 1)return x * y
②CBAM
CBAM( Block)结合了特征通道和特征空间两个维度的注意力机制 。
CBAM通过学习的方式自动获取每个特征通道的重要程度，和SEnet类似 。此外还通过类似的学习方式自动获取每个特征空间的重要程度 。并且利用得到的重要程度来提升特征并抑制对当前任务不重要的特征 。

文章插图


文章插图
CBAM提取特征通道注意力的方式基本和SEnet类似，如下中的代码所示，其在SEnet的基础上增加了的特征提取方式，其余步骤是一样的 。将通道注意力提取厚的特征作为空间注意力模块的输入 。

文章插图
CBAM提取特征空间注意力的方式：经过后，最终将经过通道重要性选择后的特征图送入特征空间注意力模块，和通道注意力模块类似，空间注意力是以通道为单位进行最大和平均迟化，并将两者的结果进行，之后再一个卷积降成1*w*h的特征图空间权重，再将该权重和输入特征进行点积，从而实现空间注意力机制 。

文章插图
#https://github.com/luuuyi/CBAM.PyTorch/blob/master/model/resnet_cbam.pyclass ChannelAttention(nn.Module):def __init__(self, in_planes, ratio=16):super(ChannelAttention, self).__init__()self.avg_pool = nn.AdaptiveAvgPool2d(1)self.max_pool = nn.AdaptiveMaxPool2d(1)self.fc1= nn.Conv2d(in_planes, in_planes / 16, 1, bias=False)self.relu1 = nn.ReLU()self.fc2= nn.Conv2d(in_planes / 16, in_planes, 1, bias=False)self.sigmoid = nn.Sigmoid()def forward(self, x):avg_out = self.fc2(self.relu1(self.fc1(self.avg_pool(x))))max_out = self.fc2(self.relu1(self.fc1(self.max_pool(x))))out = avg_out + max_outreturn self.sigmoid(out)class SpatialAttention(nn.Module):def __init__(self, kernel_size=7):super(SpatialAttention, self).__init__()assert kernel_size in (3, 7), 'kernel size must be 3 or 7'padding = 3 if kernel_size == 7 else 1self.conv1 = nn.Conv2d(2, 1, kernel_size, padding=padding, bias=False)self.sigmoid = nn.Sigmoid()def forward(self, x):avg_out = torch.mean(x, dim=1, keepdim=True)max_out, _ = torch.max(x, dim=1, keepdim=True)x = torch.cat([avg_out, max_out], dim=1)x = self.conv1(x)return self.sigmoid(x)

• 上一页
• 1
• 2
• 下一页

• 四川最大水库，容下9个泸沽湖，蜀地其他大型水库也非等闲之辈！ 世界之最水库
• 它们是迄今最最最大的蛋蛋，＝150鸡蛋 睾丸世界之最
• 美国“摩托车大王”：一年进账400亿元，全球累计销量超过500万辆 摩托世界之最
• 英联饲料与正大饲料谁更好,英联猪饲料产品都有什么
• 红楼梦中丫鬟平儿对付枭雄王熙凤的六大妙招
• 明宪宗为何要独宠年龄年龄较大的万贵妃？
• 东汉大太监张让有多奢侈吃饭要奴婢嚼碎对嘴喂
• 揭秘：中国古代的四大美女都留下了哪八大疑案
• 龟一年静息几次
• 白天巡查晚上苦读，24岁城管协管员考上厦大研究生！