¿Cuántos algoritmos diferentes existen para resolver un sistema de ecuaciones?

Analíticamente (o en aritmética exacta), hay prácticamente una sola forma, que es hacer la eliminación gaussiana.

Numéricamente, hay demasiadas formas de resolver un sistema lineal de ecuaciones. Las dos formas principales se dividen en una de dos categorías: métodos directos y métodos iterativos. Los métodos directos básicamente encuentran una factorización óptima de la matriz que proporciona varias otras matrices para las cuales es más fácil hacer la eliminación gaussiana. Una forma común es una factorización LU, que da dos matrices L, que es una matriz triangular inferior y U, una matriz triangular superior. Estos métodos son generalmente robustos y bastante precisos, pero requieren mucha memoria a medida que aumenta el tamaño del sistema.

Los métodos iterativos básicamente evalúan los productos de matriz Ax para determinar los valores aproximados de la solución y básicamente iteran o mejoran estas aproximaciones hasta que la solución se acerca lo suficiente. Estos métodos requieren muy poca memoria a medida que escala, pero no son tan robustos (puede iterar hacia una buena solución, pero no la solución real). Estos métodos se subdividen en métodos iterativos estacionarios y métodos de subespacio de Krylov (donde los métodos de subespacio de Krylov son de última generación)