6.1.3 加强特征融合
为了提高网络精度需要融合更多特征,提取更多尺度空间信息。项目组希望通过增加注意力机制,使网络学习到不同通道的特征提取能力,再根据提取特征能力的大小重新分配通道的权重。CAD模块首先对卷积得到的特征图进行压缩操作,得到通道的全局特征;然后对全局特征进行激励操作,得到不同通道的权重;最后加权乘以原来的特征图得到最终结果。CAD模块关注信息量最大的通道特征,而抑制那些不重要的通道特征。CAD模块主要包括压缩和激励两个操作。
压缩操作将一个通道上的整个空间特征编码为一个全局特征,采用全局平均池化来实现:

激励操作抓取通道之间的关系。采用sigmoid 形式的门机制:
s=Fex(z,w)=σ(g(z,w))=σ(w2ReLU(w1z))(https://www.daowen.com)
式中,
,将学习到的各个通道的激活值乘以U上的原始特征:
。整个操作可以看成学习到了各个通道的权重系数,从而使得模型对各个通道的特征更有辨别能力。
如图6-1 所示,每个卷积模块(bottleneck)包含三层卷积,从输入引入一条短路到输出,构成递归的残差网络结构。模块运用了动态数据归一化AN,注意力再分配机制CAD,并引入了两个新的激活函数Linear和H-Swith。虚线框部分就是注意力分配模块。

图6-1 引入注意力机制的残差快速卷积示意图