¿Cuáles son las aplicaciones del álgebra lineal en el aprendizaje automático?

Answer 1

El álgebra es la rama de las matemáticas que trata con valores desconocidos que se representan en forma de variables. El álgebra lineal es una extensión de lo mismo.

El álgebra lineal es un área que se ocupa principalmente de la representación de datos que se ajustan a ciertas notaciones y prácticas. En términos generales, en álgebra lineal, los datos se representan en forma de ecuaciones lineales . Estas ecuaciones lineales se representan a su vez en forma de matrices y vectores . Los vectores se pueden ver como una matriz unidimensional. Entonces, el álgebra lineal se ocupa principalmente de la representación de datos en forma de matrices.

¿Por qué es útil en el aprendizaje automático?

El aprendizaje automático es intensivo en datos. El lado matemático del aprendizaje automático es extremadamente pesado en el lado de los cálculos. Esto se debe a que los algoritmos de Machine Learning no son muy efectivos a menos que estén capacitados y operen en grandes conjuntos de datos, que van desde cientos de ejemplos de capacitación hasta millones de datos de prueba.

Se ha observado a través de la práctica que representar grandes conjuntos de datos en forma de matrices nos ayuda a visualizar mejor los datos. Una ventaja muy importante de las matrices es que todos los procesos / operaciones realizados en matrices son procesos por lotes. Significa que, aunque tenemos miles y millones de ejemplos de datos, no procesamos cada ejemplo individualmente. Por lo general, cualquier algoritmo o técnica de diseño se aplica a todo el conjunto de datos al mismo tiempo o posteriormente sin enfocarse en los ejemplos de datos individuales.

Las matrices nos ayudan a ver todos los datos como una entidad única y también nos permiten procesarlos tal como los vemos. Esta es la razón por la cual el álgebra lineal es un compinche muy cercano y extremadamente importante del aprendizaje automático.

Answer 2

¿Ya tienes vectores propios en tu clase?

Se pueden usar para reducir la dimensionalidad de un conjunto de datos, utilizando una técnica llamada Análisis de componentes principales (PCA), que puede ser un paso inicial antes de aplicar otras técnicas de aprendizaje automático.

Esa es probablemente una de las aplicaciones más puras de álgebra lineal en el aprendizaje automático.

Answer 3

El álgebra lineal se puede usar para procesar datos para realizar tareas tales como transformaciones gráficas, transformación de rostros, detección y seguimiento de objetos,
compresión de audio e imagen, detección de bordes, desenfoque, procesamiento de señales y muchas otras tareas.

El álgebra lineal funciona como un motor de cálculo en ML. La mayoría de los algoritmos de ML usan un clasificador o regresor y lo entrenan minimizando el error entre el valor calculado por el clasificador naciente y el valor real de los datos de entrenamiento. Esto se puede hacer de forma iterativa o utilizando técnicas de álgebra lineal. Si es lo último, entonces la técnica suele ser SVD o alguna variante.

En los sistemas de recomendación, el sistema de manejo de datos se maneja una gran cantidad de datos y todas las técnicas en uso actual involucran algún tipo de descomposición de la matriz, una clase fundamental de técnicas de álgebra lineal (por ejemplo, aproximación matricial no negativa y positivo-máximo- aproximación de matriz de margen)

Es muy difícil tratar con datos grandes, se han propuesto muchas técnicas para comprimir los datos que se basan en álgebra lineal. El análisis de componentes principales es una de muchas técnicas.

Answer 4

El álgebra lineal es una forma práctica de encuadrar algoritmos de optimización (utilizados en algoritmos de descenso de gradiente, soluciones de mínimos cuadrados, máquinas de vectores de soporte …) dentro de una computadora, básicamente está resolviendo sistemas lineales de restricciones. SVD también es útil para descomponer series temporales, reducir la dimensionalidad y visualizar relaciones grupales. Hay un buen tratamiento del tema en Elementos de aprendizaje estadístico (recomendaría si desea ver álgebra lineal en acción).