¿Cómo son útiles los valores propios de una matriz de covarianza?

Los valores propios de una matriz de covarianza nos informan sobre las direcciones (léase: componentes principales) a lo largo de las cuales los datos tienen la máxima difusión.

El vector propio que corresponde al valor propio máximo de la matriz de covarianza, C, será la dirección a lo largo de la cual el conjunto de datos tiene la mayor información, es decir, el vector propio más grande de C corresponde al componente principal de los datos.

Si las covarianzas son cero, entonces los valores propios son iguales a las varianzas:

Si la matriz de covarianza no es diagonal, los valores propios representan la varianza a lo largo de los componentes principales, mientras que la matriz de covarianza todavía opera a lo largo de los ejes:

Para una discusión más profunda, consulte esta publicación.