Factorización matricial (sistemas de recomendación)

El algoritmo original propuesto por Simon Funk en su publicación de blog ^{[ 2 ]} factorizó la matriz de calificaciones usuario-ítem como el producto de dos matrices de menor dimensión, la primera con una fila para cada usuario, mientras que la segunda con una columna para cada ítem. La fila o columna asociada a un usuario o ítem específico se denomina factor latente . ^{[ 4 ]} Cabe señalar que, en Funk MF no se aplica la descomposición en valores singulares , sino que se trata de un modelo de aprendizaje automático similar a SVD . ^{[ 2 ]} Las calificaciones predichas se pueden calcular como${\displaystyle {\tilde {R}}=HW}$, dónde${\displaystyle {\tilde {R}}\in \mathbb {R} ^{{\text{usuarios}}\times {\text{elementos}}}}$es la matriz de calificación usuario-ítem,${\displaystyle H\in \mathbb {R} ^{{\text{usuarios}}\times {\text{factores latentes}}}}$contiene los factores latentes del usuario y${\displaystyle W\in \mathbb {R} ^{{\text{factores latentes}}\times {\text{ítems}}}}$los factores latentes del artículo.

Específicamente, la calificación prevista que el usuario u le dará al artículo i se calcula de la siguiente manera:

${\displaystyle {\tilde {r}}_{ui}=\sum _{f=0}^{\text{n factores}}H_{u,f}W_{f,i}}$

Es posible ajustar el poder expresivo del modelo cambiando el número de factores latentes. Se ha demostrado ^{[ 5 ]} que una factorización matricial con un factor latente es equivalente a un recomendador más popular o de mayor popularidad (por ejemplo, recomienda los elementos con más interacciones sin ninguna personalización). Aumentar el número de factores latentes mejorará la personalización, por lo tanto, la calidad de la recomendación, hasta que el número de factores sea demasiado alto, momento en el que el modelo comienza a sobreajustarse y la calidad de la recomendación disminuirá. Una estrategia común para evitar el sobreajuste es agregar términos de regularización a la función objetivo. ^{[ 6 ] [ 7 ]} Funk MF se desarrolló como un problema de predicción de calificaciones , por lo tanto, utiliza calificaciones numéricas explícitas como interacciones usuario-elemento.

En definitiva, Funk MF minimiza la siguiente función objetivo:

${\displaystyle {\underset {H,W}{\operatorname {arg\,min} }}\,\|R-{\tilde {R}}\|_{\rm {F}}+\alpha \|H\|+\beta \|W\|}$

Dónde${\displaystyle \|.\|_{\rm {F}}}$se define como la norma de Frobenius, mientras que las otras normas podrían ser Frobenius u otra norma dependiendo del problema de recomendación específico. ^{[ 8 ]}

Si bien Funk MF es capaz de proporcionar recomendaciones de muy buena calidad, su capacidad de usar solo calificaciones numéricas explícitas como interacciones usuario-elemento constituye una limitación. Los sistemas de recomendación modernos deberían aprovechar todas las interacciones disponibles, tanto explícitas (p. ej., calificaciones numéricas) como implícitas (p. ej., me gusta, compras, elementos omitidos, marcadores). Con este fin, SVD++ fue diseñado para tener en cuenta también las interacciones implícitas. ^{[ 9 ] [ 10 ]} En comparación con Funk MF, SVD++ también tiene en cuenta el sesgo del usuario y del elemento.

La calificación prevista que el usuario u le dará al artículo i se calcula de la siguiente manera:

${\displaystyle {\tilde {r}}_{ui}=\mu +b_{i}+b_{u}+\sum _{f=0}^{\text{n factores}}H_{u,f}W_{f,i}}$

Dónde${\displaystyle \mu }$se refiere a la calificación promedio general de todos los artículos y${\displaystyle b_{i}}$y${\displaystyle b_{u}}$Se refiere a la desviación observada del elemento i y del usuario u respectivamente con respecto al promedio. ^{[ 11 ]} Sin embargo, SVD++ tiene algunas desventajas, siendo el principal inconveniente que este método no se basa en modelos. Esto significa que si se agrega un nuevo usuario, el algoritmo es incapaz de modelarlo a menos que se vuelva a entrenar todo el modelo. Aunque el sistema podría haber recopilado algunas interacciones para ese nuevo usuario, sus factores latentes no están disponibles y, por lo tanto, no se pueden calcular recomendaciones. Este es un ejemplo de un problema de arranque en frío , es decir, el recomendador no puede manejar eficientemente a los nuevos usuarios o elementos y se deben implementar estrategias específicas para abordar esta desventaja. ^{[ 12 ]}

Una posible solución a este problema de arranque en frío consiste en modificar SVD++ para convertirlo en un algoritmo basado en modelos , lo que permitiría gestionar fácilmente nuevos elementos y nuevos usuarios.

Como se mencionó anteriormente en SVD++, no tenemos los factores latentes de los nuevos usuarios, por lo que es necesario representarlos de otra manera. Los factores latentes del usuario representan la preferencia de ese usuario por los factores latentes del ítem correspondiente, por lo que los factores latentes del usuario pueden estimarse a través de las interacciones pasadas del usuario. Si el sistema puede recopilar algunas interacciones para el nuevo usuario, es posible estimar sus factores latentes. Cabe señalar que esto no resuelve completamente el problema del arranque en frío , ya que el recomendador aún requiere algunas interacciones confiables para los nuevos usuarios, pero al menos no hay necesidad de recalcular todo el modelo cada vez. Se ha demostrado que esta formulación es casi equivalente a un modelo SLIM, ^{[ 13 ]} que es un recomendador basado en un modelo ítem-ítem .

${\displaystyle {\tilde {r}}_{ui}=\mu +b_{i}+b_{u}+\sum _{f=0}^{\text{n factores}}{\biggl (}\sum _{j=0}^{\text{n elementos}}r_{uj}W_{j,f}^{T}{\biggr )}W_{f,i}}$

Con esta formulación, el recomendador de ítems equivalente sería${\displaystyle {\tilde {R}}=RS=RW^{\rm {T}}W}$Por lo tanto, la matriz de similitud es simétrica.

El SVD asimétrico busca combinar las ventajas del SVD++ siendo un algoritmo basado en modelos, lo que permite considerar nuevos usuarios con pocas calificaciones sin necesidad de reentrenar todo el modelo. A diferencia del SVD basado en modelos, aquí la matriz de factores latentes del usuario H se reemplaza por Q, que aprende las preferencias del usuario en función de sus calificaciones. ^{[ 14 ]}

La calificación prevista que el usuario u le dará al artículo i se calcula de la siguiente manera:

${\displaystyle {\tilde {r}}_{ui}=\mu +b_{i}+b_{u}+\sum _{f=0}^{\text{n factores}}\sum _{j=0}^{\text{n elementos}}r_{uj}Q_{j,f}W_{f,i}}$

Con esta formulación, el recomendador de ítems equivalente sería${\displaystyle {\tilde {R}}=RS=RQ^{\rm {T}}W}$Dado que las matrices Q y W son diferentes, la matriz de similitud es asimétrica, de ahí el nombre del modelo.

Un SVD específico para grupos puede ser un enfoque eficaz para el problema del arranque en frío en muchos escenarios. ^{[ 6 ]} Agrupa usuarios y elementos en función de la información de dependencia y las similitudes en las características. Luego, cuando llega un nuevo usuario o elemento, podemos asignarle una etiqueta de grupo y aproximar su factor latente mediante los efectos de grupo (del grupo correspondiente). Por lo tanto, aunque las calificaciones asociadas con el nuevo usuario o elemento no estén necesariamente disponibles, los efectos de grupo proporcionan predicciones inmediatas y efectivas.

La calificación prevista que el usuario u le dará al artículo i se calcula de la siguiente manera:

${\displaystyle {\tilde {r}}_{ui}=\sum _{f=0}^{\text{n factores}}(H_{u,f}+S_{v_{u},f})(W_{f,i}+T_{f,j_{i}})}$

Aquí${\displaystyle v_{u}}$y${\displaystyle j_{i}}$representan la etiqueta de grupo del usuario u y del elemento i , respectivamente, que son idénticas entre los miembros del mismo grupo. Y S y T son matrices de efectos de grupo. Por ejemplo, para un nuevo usuario${\displaystyle u_{new}}$cuyo factor latente${\displaystyle H_{u_{new}}}$Si no está disponible, al menos podemos identificar su etiqueta de grupo.${\displaystyle v_{u_{new}}}$y predecir sus calificaciones como:

${\displaystyle {\tilde {r}}_{u_{new}i}=\sum _{f=0}^{\text{n factores}}S_{v_{u_{new}},f}(W_{f,i}+T_{f,j_{i}})}$

Esto proporciona una buena aproximación a las calificaciones no observadas.

En los últimos años se han desarrollado muchos otros modelos de factorización matricial para aprovechar la creciente cantidad y variedad de datos de interacción y casos de uso disponibles. Los algoritmos híbridos de factorización matricial son capaces de fusionar interacciones explícitas e implícitas ^{[ 15 ]} o tanto contenido como datos colaborativos ^{[ 16 ] [ 17 ] [ 18 ].}

En los últimos años se han propuesto varias técnicas neuronales y de aprendizaje profundo , algunas de las cuales generalizan los algoritmos tradicionales de factorización de matrices mediante una arquitectura neuronal no lineal. ^{[ 19 ]} Si bien el aprendizaje profundo se ha aplicado a muchos escenarios diferentes (conciencia del contexto, conciencia de la secuencia, etiquetado social, etc.), su efectividad real cuando se utiliza en un escenario simple de filtrado colaborativo se ha puesto en duda. El análisis sistemático de publicaciones que aplican métodos neuronales o de aprendizaje profundo al problema de recomendación top-k, publicadas en las principales conferencias (SIGIR, KDD, WWW, RecSys, IJCAI), ha demostrado que en promedio menos del 40% de los artículos son reproducibles, con tan solo un 14% en algunas conferencias. En total, los estudios identifican 26 artículos, de los cuales solo 12 pudieron reproducirse y 11 de ellos fueron superados por líneas base mucho más antiguas y simples debidamente ajustadas. Los artículos también destacan una serie de problemas potenciales en la investigación actual y hacen un llamado a mejorar las prácticas científicas en esa área. ^{[ 20 ] [ 21 ]} También se han detectado problemas similares en sistemas de recomendación conscientes de la secuencia. ^{[ 22 ]}