- Python机器学习算法与应用
- 邓立国
- 435字
- 2020-11-23 14:57:14
2.4.3 主成分的导出
根据主成分分析的数学模型的定义,要进行主成分分析,就需要根据原始数据以及模型3个条件的要求,求出主成分系数,以便得到主成分模型。这就是导出主成分所要解决的问题。
(1)根据主成分数学模型的条件①要求主成分之间互不相关,为此主成分之间的协差阵应该是一个对角阵。对于主成分,
F=AX
(2.49)
其协差阵应为,
(2.50)
(2)设原始数据的协方差阵为V,如果原始数据进行了标准化处理,那么协方差阵等于相关矩阵,即有
V=R=XX'
(2.51)
(3)根据主成分数学模型条件③和正交矩阵的性质,若能够满足条件③最好要求A为正交矩阵,即满足
AA'=I
(2.52)
将原始数据的协方差代入主成分的协差阵公式,得
(2.53)
展开上式,得
(2.54)
展开等式两边,根据矩阵相等的性质,这里只根据第一列得出的方程为:
(2.55)
为了得到该齐次方程的解,要求其系数矩阵行列式为0,即
(2.56)
|R-λ1I|=0
显然, 是相关系数矩阵的特征值,是相应的特征向量。根据第二列、第三列等可以得到类似的方程,于是是方程|R-λI|=0的p个根, 为特征方程的特征根, 是其特征向量的分量。