主成分分析（PCA）的原理和本质

因为：实际问题中协方差矩阵通常是满秩的，
所以：其可以相似对角化；
因为：协方差矩阵是实对称矩阵，
所以：其可以实相似对角化（获得实特征值和实特征向量）；
因为：
1.实对称矩阵的相似对角化相当于把原协方差矩阵变成了对角矩阵与正交矩阵（标准正交向量组，标准正交基）相乘的形式，
2.与正交矩阵相乘相当于坐标系旋转（标准正交基变换），
3.对角矩阵中相异新变量(坐标)间协方差为0，即无相关性，
所以：PCA本质上是“旋转坐标系使新变量(坐标)间无相关性”