6.1.2 反向传播算法更新网络参数 更新于 2026年11月21日 版权声明 6.1.2 反向传播算法更新网络参数 反向传播算法首先需要选择一个损失函数,来度量训练样本计算出的输出和真实的训练样本输出之间的损失。本项目使用最常见的均方差来度量损失,即对于每个样本: 这样对于输出层的参数,我们的损失函数变为: 只要求出了某一层的δl,求解Wl,bl的对应梯度就很简单。(https://www.daowen.com) 所以根据上式我们可以很方便地计算出第l层的Wl,bl的梯度如下: 卷积神经网络的反向传播算法原理一样,只是神经网络的权值改变为张量,也称作卷积核。