混合卷积脉冲神经网络

目前的卷积神经网络(convolutional　neural　network,简称CNN)与脉冲神经网络(spiking　neural　network,简称SNN)网络结构的结合一般思路是采用经典的网络学习算法来训练学习CNN网络,然后通过基于脉冲频率编码的单元将训练好的网络权重直接迁移应用于同架构的SNN网络,从而实现CNN的SNN混合网络架构的设计。本章从视觉系统的分级信息处理与信息表示和传递采用脉冲序列的形式出发,对原有的卷积结构进行修改,采用阈值发放型的漏积分点火神经元进行特征的学习,最先达到阈值电位产生脉冲信号的神经元会抑制其周围神经元的放电来提取特征。混合的卷积脉冲神经网络采用脉冲序列来表示和传递信息,只有卷积层的神经元会被激活发放脉冲,学习特征。池化层的神经元保持静息电位状态并不会被激活,仅保留卷积层发放脉冲的神经元信号,采用最大池化操作来将卷积层的数据进行特征压缩以减少参数的数量,保证边缘特征的不变性,从而提高计算能力。

卷积层的神经元根据其连接的突触权重对视觉特征进行选择,采用权值共享的方式减少神经元之间的连接。通过对输入脉冲信号的多维分层卷积,突触后神经元可以有效提取到对应突触前神经元特征图的视觉特征组合。对于第L层的神经元i,其在某一时刻t的突触后膜电位由其在t-1时刻的膜电位和其输入脉冲的累积值共同决定,神经元i的突触后膜电位的表达式如下:式(4-1)中:表示第L个卷积层的第i个神经元在t时刻的突触后膜电位,Wij表示前后突触神经元j与i之间的连接权重,Sj(t-1)为前突触神经元j在t-1时刻的输入脉冲,其表达式如下所示:

式(4-1)中:表示第L个卷积层的第i个神经元在t时刻的突触后膜电位,Wij表示前后突触神经元j与i之间的连接权重,Sj(t-1)为前突触神经元j在t-1时刻的输入脉冲,其表达式如下所示:

式(4-2)中:当达到Vth时,神经元兴奋并发放脉冲,对应的Si(t)为1;反之,神经元保持静息状态,对应的Si(t)为0。

池化层采用最大池化操作对卷积层的数据进行特征压缩以减少信息的冗余,从而提升网络的计算能力。池化层的神经元保持静息电位状态并不会被激活,仅保留卷积层神经元发放的脉冲信号,池化层的最大池化操作如下式所示:式(4-3)中:当池化层的神经元k对应的卷积层的突触后神经元i在上一时刻发放了脉冲,则神经元k对应的脉冲值为1;反之,神经元k对应的脉冲值为0。