La factorización matricial no negativa generalmente se considera un problema no convexo para el cual solo existen mínimos locales. Esto se debe a que la función objetivo es bi-convexa, es decir, es convexa en un factor cuando el otro se mantiene constante pero sin ninguna forma de garantizar la convergencia a un mínimo global para la formulación general bi-convexa. Existen métodos más allá del descenso de gradiente para resolver estos problemas. Para una encuesta de relajaciones convexas al problema y otros enfoques no convexos, consulte el siguiente documento. http://www.siam.org/proceedings/…
Se pueden usar funciones de pérdida distintas de las distancias al cuadrado euclidianas. A continuación se presentan algunas funciones de pérdida bien conocidas para evaluar NMF.
https://hkn.eecs.berkeley.edu/~c…
KL-Divergencia
Por lo general, se resuelve utilizando un enfoque similar al de Expectation-Maximization que alterna entre los problemas convexos individuales.
http://www.cs.toronto.edu/~radfo…
http://citeseerx.ist.psu.edu/vie…
Divergencias de Csiszar (generaliza a KL a una clase más amplia)
http://www.springerlink.com/cont…
- ¿Cuáles son algunas técnicas efectivas de factorización matricial y sus casos de uso?
- Álgebra lineal: ¿cómo puedo encontrar una ecuación de verificación de paridad?
- Con respecto a las matrices, ¿cómo puede probar que si A tiene un inverso que A al cuadrado también tiene un inverso?
- ¿Cómo instalo la biblioteca Ruby linalg en Mac?
- ¿Cómo puedo abordar la selección de vectores efectivos usando la descomposición del valor singular?
Norma nuclear (también Norma de seguimiento)
La minimización de la suma de valores singulares (norma nuclear) se ha utilizado para realizar factorizaciones matriciales de bajo rango y predicciones colaborativas. Los siguientes documentos muestran formulaciones convexas de este enfoque.
http://people.csail.mit.edu/tomm…
http://arxiv.org/abs/0903.1476v1
http://www.icml2010.org/papers/1…