Aprendizaje profundo: ¿El algoritmo PCA crea una representación distribuida?

Answer 1

El análisis de componentes principales (PCA) reorienta los datos a lo largo de los vectores propios (flechas) de los datos y luego deja caer las dimensiones con los vectores propios más cortos. Si desea asignar datos 2D a 1D, suelte la dimensión con el vector propio más corto (dirección y en la imagen) y retenga solo el valor x reorientado de los datos. Puede hacer lo mismo para reducir los datos de 100 dimensiones a dos dimensiones.

PCA es entonces una representación distribuida, lo que significa que dos elementos distintos pueden tener el mismo valor en una dimensión, porque solo necesitan diferir en otra dimensión para ser distintos. También artículos similares están más juntos que artículos diferentes. Por ejemplo:

manzana pequeña = -0.2 -0.2 0.0 0.1
manzana grande = -0.1 -0.2 0.0 0.1
naranja = -0.1 0.5 0.0 0.3
fresa = -0.3 0.1 0.0 0.5
coche = 0.0 0.0 0.5 0.1
camión = 0.1 -0.1 0.5 0.2

Es una representación distribuida en 4 dimensiones. Reducir datos a 2D con PCA y luego trazar los datos para encontrar grupos es una técnica estándar y muestra que las representaciones distribuidas están funcionando.

Answer 2

A menudo depende del Componente principal que desea analizar. Un director es una persona que entrega swats, usando un componente de paleta, analizando las nalgas de los niños menos disciplinados en la escuela secundaria. La representación distribuida involucra a las otras partes involucradas en el conflicto, que también estaban en el extremo receptor, siendo analizadas, con la pala. A medida que cada golpe se aplica firmemente a las superficies de contacto desnudas gemelas, algorítmicamente, el nivel de dolor de anticipar el siguiente golpe aumenta a niveles más nuevos, proporcionando así una experiencia de APRENDIZAJE PROFUNDO.
Usando el otro principio, en un trabajo dentro del Grupo de Aplicaciones Geofísicas, en una tarea de hacer lo que llamaron ‘Selecciones de velocidad’, donde elegí el ‘medio’ de un grupo de velocidades de sonido a medida que cambian según la profundidad. Parcela similar a la respuesta anterior.
https://www.microsoft.com/en-us/ …