主成分分析法
主成分分析也称主分量分析,旨在利用降维的思想,把多指标转化为少数几个综合指标。在统计学中,主成分分析(principal components analysis,PCA)是一种简化数据集的技术,它是一个线性变换。这个变换把数据变换到一个新的坐标系统中,使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上,第二大方差在第二个坐标(第二主成分)上,依次类推。主成分分析经常用减少数据集的维数,同时保持数据集的对方差贡献最大的特征。这是通过保留低阶主成分,忽略高阶主成分做到的。这样低阶成分往往能够保留住数据的最重要方面。但是,这也不是一定的,要视具体应用而定。
在力求数据信息丢失最少的原则下,对高维的变量空间降维,即研究指标体系的少数几个线性组合,并且这几个线性组合所构成的综合指标将尽可能多地保留原来指标变异方面的信息。这些综合指标就称为主成分。
主成分分析主要有以下几方面的应用。
1.主成分分析能降低所研究的数据空间的维数 即用研究m 维的Y 空间代替p 维的X 空间(m<p),而低维的Y 空间代替高维的X 空间所损失的信息很少。即使只有一个主成分Yl(即m=1)时,这个Yl 仍是使用全部X 变量(p 个)得到的。例如,要计算Yl 的均值也得使用全部X 的均值。在所选的前m 个主成分中,如果某个Xi 的系数全部近似于零的话,就可以把这个Xi删除,这也是一种删除多余变量的方法(https://www.daowen.com)
2.有时可通过因子负荷aij 的结构,弄清X 变量间的某些关系。
3.多维数据的一种图形表示方法 当维数大于3时便不能画出几何图形,多元统计研究的问题大都多于3个变量。要把研究的问题用图形表示出来是不可能的。然而,经过主成分分析后,我们可以选取前两个主成分或其中某两个主成分,根据主成分的得分,画出n 个样品在二维平面上的分布情况,由图形可直观地看出各样品在主分量中的地位。
4.由主成分分析法构造回归模型 即把各主成分作为新自变量代替原来自变量X 做回归分析。
5.用主成分分析筛选回归变量 回归变量的选择有着重要的实际意义,为了使模型本身易于做结构分析、控制和预报,从原始变量所构成的子集合中选择最佳变量,构成最佳变量集合。用主成分分析筛选变量,可以用较少的计算量来选择量,获得选择最佳变量子集合的效果。