¿Qué es más importante para el aprendizaje automático: teoría de la probabilidad o álgebra lineal?

Answer 1

Yo diría que la teoría de la probabilidad por un margen delgado a moderado. Es un día raro en Machine Learning en el que no está maximizando una probabilidad de registro, utilizando la regla de Bayes o tratando con gaussianos.

Por supuesto, el álgebra lineal está siempre presente porque amamos nuestras matrices y productos de punto. Si está tratando con algo como PCA, estará trabajando con vectores propios y valores propios. Si te gustan los sistemas de recomendación, trabajarás con factorizaciones matriciales como la descomposición de Cholesky. Si realmente te involucras en las rutinas de optimización, habrá muchas Hesse y transformaciones de matriz conjugada.

Pero en general, creo que la teoría de la probabilidad surge con más frecuencia y es algo en lo que realmente tiene que pensar en lugar de tratarlo como una herramienta computacional. También diré que no creo que ML profundice en la teoría de la probabilidad o en el álgebra lineal y si tiene un historial decente en estos de cualquier campo STEM, probablemente le irá bien.

Para el registro, soy un estudiante de maestría en la Universidad de Toronto, especializado en Machine Learning. Tal vez mi percepción está sesgada respecto a lo que es más útil a este nivel.

Answer 2

El álgebra lineal es la base de la teoría de la probabilidad de muchas variables. Un ejemplo es el gaussiano multivariante que se puede “blanquear” usando una descomposición de valor sqrt / singular.

El álgebra lineal y sus numerosas descomposiciones matriciales le permiten no solo trabajar en el dominio “natural” de los datos, sino que también proporciona “instinto” a lo que realmente está sucediendo con sus muchas, muchas características.

Dicho esto … las estadísticas y la teoría de la probabilidad son el lenguaje del razonamiento bajo incertidumbre y todo el aprendizaje automático aprovecha un poco el modelo de ruido para cuantificar sus errores.

Entonces, no es una respuesta 0/1 … Aprendería Álgebra Lineal antes de la teoría de probabilidad si eso ayuda, aún más, pero ambas son herramientas fundamentales de un conjunto de herramientas de ML.

Puede ver cuánto ganan los científicos / investigadores / ingenieros de aprendizaje automático en diferentes compañías en paysa.com, por ejemplo, ¿le pagan su salario de mercado?

Answer 3

¿Qué es más importante para caminar, tu pie izquierdo o tu derecho?