6.1.3 加强特征融合

更新于 2026年11月21日 版权声明
6.1.3 加强特征融合

为了提高网络精度需要融合更多特征,提取更多尺度空间信息。项目组希望通过增加注意力机制,使网络学习到不同通道的特征提取能力,再根据提取特征能力的大小重新分配通道的权重。CAD模块首先对卷积得到的特征图进行压缩操作,得到通道的全局特征;然后对全局特征进行激励操作,得到不同通道的权重;最后加权乘以原来的特征图得到最终结果。CAD模块关注信息量最大的通道特征,而抑制那些不重要的通道特征。CAD模块主要包括压缩和激励两个操作。

压缩操作将一个通道上的整个空间特征编码为一个全局特征,采用全局平均池化来实现:

图示

激励操作抓取通道之间的关系。采用sigmoid 形式的门机制:

s=Fex(z,w)=σ(g(z,w))=σ(w2ReLU(w1z))(https://www.daowen.com)

式中,图示,将学习到的各个通道的激活值乘以U上的原始特征:图示。整个操作可以看成学习到了各个通道的权重系数,从而使得模型对各个通道的特征更有辨别能力。

如图6-1 所示,每个卷积模块(bottleneck)包含三层卷积,从输入引入一条短路到输出,构成递归的残差网络结构。模块运用了动态数据归一化AN,注意力再分配机制CAD,并引入了两个新的激活函数Linear和H-Swith。虚线框部分就是注意力分配模块。

图示

图6-1 引入注意力机制的残差快速卷积示意图

✍AI写作