Matemáticas: ¿Cuál es el mejor sistema de numeración?

En realidad, “¿Cuál es el mejor sistema de numeración?” No es una pregunta directa.
Porque de inmediato, uno debe preguntar “¿mejor para qué?”
La numeración decimal no se puede reemplazar debido a la inversión intelectual y textural, por lo que la numeración decimal es la mejor para enseñar a los niños, la contabilidad, la medición, etc. Sin duda, surgió porque tenemos diez dígitos, aunque entiendo que algunas personas también cuentan con los dedos de los pies y tener una especie de base 20.

El binario y sus derivados (octal raramente y hexadecimal más comúnmente) son los mejores para componentes internos de computadora y ciertos usos técnicos.
Hexadecimal se usa para ciertas claves de seguridad, direcciones MAC y direcciones IP. Aunque el último se disfraza de decimal punteado.
Binario es el mejor aquí porque representa la arquitectura de la computadora. (es decir, dos sistemas de almacenamiento de estado) si tuviéramos diez sistemas de almacenamiento de estado, entonces el decimal también sería apropiado aquí.
La numeración babilónica tiene un significado histórico en grados en un círculo, y segundos por minuto y minutos por hora. Pero la clave aquí fue que no tenían fracciones decimales 0.75, etc., ni múltiplos de fracción, por ejemplo, 3/4
en cambio, todo tenía que ser representado como la suma de fracciones individuales, por ejemplo
1/2 + 1/4, en este caso la base 60 funcionó muy bien.

Otras bases también tienen sus usos en casos especiales, por ejemplo, cuadrados mágicos.
Entonces la respuesta a tu simple pregunta es
todos son mejores para algo, depende de lo que estés haciendo