¿Cuáles son algunos otros temas como la teoría de números y la teoría de probabilidad?

Basado libremente en su descripción en los comentarios, sugeriría: Geometría proyectiva, Álgebra lineal (hecho rigurosamente de un libro como álgebra lineal hecho a la derecha por Sheldon Axler), Combinatoria y teoría de grupos.

Pero, sobre todo, es una mejor idea comprender primero la diferencia entre las matemáticas a las que está expuesto en la escuela secundaria y lo que realmente son las matemáticas. Para eso recomendaría ¿Qué es la matemática? Un enfoque elemental de ideas y métodos: Richard Courant, Herbert Robbins, Ian Stewart y Matemáticas: una introducción muy breve: Timothy Gowers.

También puede consultar quora preguntas como ¿Cuáles son algunos buenos libros introductorios en matemáticas para un entusiasta de las matemáticas que ingresa a la ingeniería de pregrado? ¿Cuáles son algunos de los libros que hay que leer para un estudiante de pregrado en matemáticas?

Algunos otros temas cubiertos en la teoría de números son: probabilidad, módulo aritmético, combinatoria, permutación, operaciones de conjuntos, etc.

Puede encontrar algunos conceptos básicos de la teoría de números cubiertos en estos 2 tutoriales.

Teoría de números – 1 – cubre temas básicos como módulo aritmético, GCD, etc.
Teoría de números – II – cubre conjuntos, combinatoria y permutaciones

La teoría analítica de números es (una especie de) combinación de los dos campos.

También la teoría de números aditivos se ajusta a la misma descripción.

Teoría de conjuntos y teoría de categorías.

Y no te olvides de los grupos.