7.3.2 两隐层BP神经网络

7.3.2 两隐层BP神经网络

对神经网络逼近的经验研究表明,虽然单隐层神经网络从理论上讲可以无限逼近任意函数,但是隐层神经元的数目可能过多,而两隐层神经网络则在函数复杂程度中等的情况下较单隐层神经网络有更好的逼近效果和较少的神经元数目。本书研究第一层神经元为Sigmoid响应函数而第二层为线性函数的神经网络,其网络结构模型如图7-3所示。

图7-3 基于两层隐函数的BP神经网络的非线性函数估计模型

从而输出为:

在进行实际仿真和应用时,参数的确定可使用改进的LM算法。对于例7-1,MC结果表明,取第一隐层4个神经元,第二隐层4个神经元,则迭代1000次的总平均误差为:0.0017019233,这一结果较LM改进算法要差,而且运行时间要长。