5.4 基于广义最大互相关熵的批量辨识方法
互相关熵在信息理论中有着广泛的应用，它的形式灵活，对高斯条件不敏感，在变量间的局部非线性度量上具有独特的优势。在参数估计领域，估计子的性能决定了辨识方法的性能，因此估计子的设计在参数估计过程中起着重要作用。本节将基于TARMA模型，引入互相关熵的概念，建立广义最大互相关熵估计子的一般形式［165，284］，为处理非高斯脉冲噪声条件下的模态参数辨识问题打下理论基础。
根据互相关熵的定义，以式（2.56）所示TARMA模型中的新息序列表征特征空间中的距离，则广义最大互相关熵估计子的一般形式可以定义为
式（5.20）所描述的最优化问题可以通过对花费函数JGMCC求导进行求解，即
式中，Γ［t］为权重因子，可表示为(https://www.daowen.com)
式中，ρ（·）为权重函数，它可以由核函数κ（·）来定义
式中，C为正则化系数，其值保证
的系数为1。
通过比较式（2.61）和式（5.21）可知，广义最大互相关熵估计子与传统最小二乘估计子的区别在于权重因子Γ［t］，并且观察式（5.22）可知，权重因子由权重函数ρ（·）所决定。从参数估计的角度来看，权重因子表示参与估计的数据的重要程度，广义最大互相关熵估计子基于核函数的非线性映射能力，将残差e［t］作为再生核希尔伯特空间内距离的度量因子，并以此来调整参与估计的数据的权重，进而减少残差较大的数据对估计过程的影响；从数学形式的角度来看，若ρ（·）≡1，则Γ［t］≡1，那么广义最大互相关熵估计子退化为最小二乘估计子。因此广义最大互相关熵估计子不仅包含传统意义下的最小二乘估计子，还代表更广泛的一类估计子。
本节建立的广义最大互相关熵估计子的一般形式具有重要意义，它不仅是传统最小二乘估计子的拓展，还代表高阶统计矩的一大类估计子，而权重函数ρ（·）则刻画各阶统计矩在估计子中的权重。权重函数为我们提供了一个在特征空间内设计估计子非线性映射能力的窗口，通过设计权重函数，我们能够得到满足不同要求的、具有不同性能的广义最大互相关熵估计子。
