Para la parte de álgebra lineal de su pregunta, lo remito a los maravillosos libros de Gilbert Strang. Además, puedo proporcionar dos ejemplos impresionantes. el primero son las transformaciones afines utilizadas para implementar la escala, la rotación, la traducción y la perspectiva utilizadas en todos los cálculos de gráficos de computadora acelerados por hardware. Estos se conocen mejor como matrices 4 × 4 para el caso 3D y como matrices 3 × 3 para 2D. Puede trabajar con ellos directamente utilizando sistemas como Processing. Un segundo ejemplo es la solución de sistemas lineales de ecuaciones a través de la eliminación gaussiana y la sobrerelajación sucesiva (SOR). La eliminación rutinaria de Gauss, denominada método directo porque te da todo antes de darte algo, se ejecuta en orden n tiempo cúbico y orden n espacio cuadrado. Los métodos iterativos como SOR lo acercan a la respuesta con cada paso y no requieren que gaste todo su presupuesto de tiempo y espacio antes de acercarse a donde estaba antes. Estos dos métodos han resuelto innumerables problemas de elementos finitos, programación lineal y ecuaciones diferenciales que literalmente hacen girar al mundo. Los métodos iterativos son útiles cuando su sistema ha realizado pequeños cambios que le gustaría actualizar gradualmente con una mejor solución.
En cuanto a la teoría de números, estoy menos versado en esto, pero las aplicaciones que inmediatamente me vienen a la mente son herramientas de números primos, como funciones difíciles de invertir que se usan en criptografía y seguridad cibernética. La teoría de números también ha proporcionado herramientas útiles para CS como la función de Ackerman que crecen rápidamente y se utilizan con fines comparativos.