¿Qué dice el número de condición de una matriz intuitivamente?

Gracias por A2A. Bueno, tiene una clara interpretación geométrica.
Suponemos que [math] M [/ math] no es singular, de lo contrario [math] \ kappa (M) [/ math] no está definido.

Considere [matemáticas] A = M ^ {t} M [/ matemáticas]. [matemáticas] M [/ matemáticas] es una matriz positivamente definida (simétrica). Los valores singulares de [math] M [/ math] son ​​raíces de valores propios de [math] A [/ math].

Además, [math] A [/ math] tiene una base de vectores ortonormales.

Geométricamente, la ecuación [matemática] || Mx || ^ 2 = x ^ {t} Ax = 1 [/ matemática] define un elipsoide con direcciones de ejes dados por vectores propios de [matemática] A [/ matemática].


Las longitudes de los ejes son inversamente proporcionales a los valores singulares.
Por lo tanto, [math] \ kappa (M) [/ math] da la relación máxima entre ellos.

Ahora suponga que tenemos un sistema lineal de ecuaciones [matemáticas] Mx = b [/ matemáticas].

Multiplicando por [matemática] M ^ {t} [/ matemática] obtienes [matemática] Ax = M ^ {t} b [/ matemática], es decir [matemática] x = A ^ {- 1} M ^ {t} b = A ^ {- 1} c [/ matemáticas], donde [matemáticas] c = M ^ {t} b [/ matemáticas].

Supongamos ahora que selecciona [matemática] c [/ matemática] con [matemática] || c || = 1 [/ matemática] en dirección de diferentes ejes del elipsoide, es decir, vectores propios.

Entonces [math] c [/ math] se diluirá en proporciones que sean proporcionales a las longitudes de los ejes del elipsoide. En particular, si [math] \ kappa (M) [/ math] es grande, entonces el cambio de dirección de [math] c [/ math] tendrá un enorme impacto en [math] || x || [/ math]. Por lo tanto, intuitivamente, cuanto mayor es la relación entre los ejes, más sensible es la solución a pequeñas perturbaciones de [math] b [/ math].

Intuitivamente, cuanto mayor es el número de condición de una matriz [matemática] M [/ matemática], más susceptible es a grandes perturbaciones (diferencias) en la solución de [matemática] Mx = y [/ matemática] cuando incluso minutos cambian a [ math] y [/ math] se hacen.

Por ejemplo, si tomamos la matriz

[matemática] M = \ begin {pmatrix} 20 & 0 \\ 4 & 19 \ end {pmatrix} [/ math]

entonces la solución de la ecuación

[matemáticas] M \ begin {pmatrix} x \\ y \ end {pmatrix} = \ begin {pmatrix} 1 \\ 5 \ end {pmatrix} [/ math]

es [matemática] x = 0.05, y = 0.253 [/ matemática]. La solución de la ecuación.

[matemáticas] M \ begin {pmatrix} x \\ y \ end {pmatrix} = \ begin {pmatrix} 0.9 \\ 5.1 \ end {pmatrix} [/ math]

es [matemática] x = 0.045, y = 0.259 [/ matemática], por lo que no hay mucho cambio. De hecho, el número de condición de [matemática] M [/ matemática] es [matemática] \ frac {21.6638} {17.5407} = 1.235 [/ matemática].

Si ahora tomamos la matriz

[matemática] M = \ begin {pmatrix} 19 & 0 \\ 4 & 1 \ end {pmatrix} [/ math]

entonces la solución de la ecuación

[matemáticas] M \ begin {pmatrix} x \\ y \ end {pmatrix} = \ begin {pmatrix} 1 \\ 5 \ end {pmatrix} [/ math]

es [matemáticas] x = 0.053, y = 4.789 [/ matemáticas]. La solución de la ecuación.

[matemáticas] M \ begin {pmatrix} x \\ y \ end {pmatrix} = \ begin {pmatrix} 0.9 \\ 5.1 \ end {pmatrix} [/ math]

es [matemática] x = 0.047, y = 4.911 [/ matemática], por lo que las soluciones cambiaron un poco más. De hecho, el número de condición de esta nueva [matemática] M [/ matemática] es [matemática] \ frac {19.4176} {0.9875} = 19.663 [/ matemática].

Intuitivamente, el número de condición de 2 normas que definió en los detalles dice que para un sistema lineal Ax = b. Si el número de condición de A es grande, entonces una pequeña perturbación en b causará un gran cambio en x.