Aprendizaje por transferencia

El aprendizaje por transferencia ( TL ) es una técnica del aprendizaje automático (ML) en la que el conocimiento adquirido en una tarea se reutiliza para mejorar el rendimiento en una tarea relacionada. ^{[ 1 ]} Por ejemplo, en la clasificación de imágenes , el conocimiento obtenido al aprender a reconocer automóviles podría aplicarse al intentar reconocer camiones. Este tema está relacionado con la literatura psicológica sobre la transferencia del aprendizaje , aunque los vínculos prácticos entre ambos campos son limitados. Reutilizar o transferir información de tareas previamente aprendidas a nuevas tareas tiene el potencial de mejorar significativamente la eficiencia del aprendizaje. ^{[ 2 ]}

Dado que el aprendizaje por transferencia utiliza el entrenamiento con múltiples funciones objetivo, está relacionado con el aprendizaje automático sensible al costo y la optimización multiobjetivo . ^{[ 3 ]}

En 1976, Bozinovski y Fulgosi publicaron un artículo sobre el aprendizaje por transferencia en el entrenamiento de redes neuronales . ^{[ 4 ] [ 5 ]} El artículo presenta un modelo matemático y geométrico del tema. En 1981, un informe analizó la aplicación del aprendizaje por transferencia a un conjunto de datos de imágenes que representan letras de terminales de computadora, demostrando experimentalmente el aprendizaje por transferencia positivo y negativo. ^{[ 6 ]}

En 1992, Lorien Pratt formuló el algoritmo de transferencia basado en la discriminabilidad (DBT). ^{[ 7 ]}

Para 1998, el campo había avanzado para incluir el aprendizaje multitarea , ^{[ 8 ]} junto con fundamentos teóricos más formales. ^{[ 9 ]} Entre las publicaciones influyentes sobre el aprendizaje por transferencia se incluyen el libro Learning to Learn de 1998, ^{[ 10 ]} una encuesta de 2009 ^{[ 11 ]} y una encuesta de 2019. ^{[ 12 ]}

Ng dijo en su tutorial de NIPS 2016 ^{[ 13 ] [ 14 ]} que el TL se convertiría en el próximo motor del éxito comercial del aprendizaje automático después del aprendizaje supervisado .

En el artículo de 2020, "Repensando el entrenamiento previo y el autoentrenamiento" ^{[ 15 ]} Zoph et al. informaron que el entrenamiento previo puede perjudicar la precisión y abogaron por el autoentrenamiento en su lugar.

La definición de aprendizaje por transferencia se da en términos de dominios y tareas. Un dominio${\displaystyle {\mathcal {D}}}$consta de: un espacio de características${\displaystyle {\mathcal {X}}}$y una distribución de probabilidad marginal${\displaystyle P(X)}$, dónde${\displaystyle X=\{x_{1},...,x_{n}\}\in {\mathcal {X}}}$Dado un dominio específico,${\displaystyle {\mathcal {D}}=\{{\mathcal {X}},P(X)\}}$, una tarea consta de dos componentes: un espacio de etiquetas${\displaystyle {\mathcal {Y}}}$y una función predictiva objetiva${\displaystyle f:{\mathcal {X}}\rightarrow {\mathcal {Y}}}$. La función${\displaystyle f}$se utiliza para predecir la etiqueta correspondiente${\displaystyle f(x)}$de una nueva instancia${\displaystyle x}$Esta tarea, denominada por${\displaystyle {\mathcal {T}}=\{{\mathcal {Y}},f(x)\}}$, se aprende a partir de los datos de entrenamiento que consisten en pares${\displaystyle \{x_{i},y_{i}\}}$, dónde${\displaystyle x_{i}\in {\mathcal {X}}}$y${\displaystyle y_{i}\in {\mathcal {Y}}}$. ^{[ 16 ]}

Dado un dominio fuente${\displaystyle {\mathcal {D}}_{S}}$y tarea de aprendizaje${\displaystyle {\mathcal {T}}_{S}}$, un dominio objetivo${\displaystyle {\mathcal {D}}_{T}}$y tarea de aprendizaje${\displaystyle {\mathcal {T}}_{T}}$, dónde${\displaystyle {\mathcal {D}}_{S}\neq {\mathcal {D}}_{T}}$, o${\displaystyle {\mathcal {T}}_{S}\neq {\mathcal {T}}_{T}}$El aprendizaje por transferencia tiene como objetivo ayudar a mejorar el aprendizaje de la función predictiva objetivo.${\displaystyle f_{T}(\cdot )}$en${\displaystyle {\mathcal {D}}_{T}}$utilizando el conocimiento en${\displaystyle {\mathcal {D}}_{S}}$y${\displaystyle {\mathcal {T}}_{S}}$. ^{[ 16 ]}

Los algoritmos para el aprendizaje por transferencia están disponibles en redes de lógica de Markov ^{[ 17 ]} y redes bayesianas . ^{[ 18 ]} El aprendizaje por transferencia se ha aplicado al descubrimiento de subtipos de cáncer, ^{[ 19 ]} utilización de edificios, ^{[ 20 ] [ 21 ]} juegos en general , ^{[ 22 ]} clasificación de texto , ^{[ 23 ] [ 24 ]} reconocimiento de dígitos, ^{[ 25 ]} imágenes médicas y filtrado de spam . ^{[ 26 ]}

En 2020, se descubrió que, debido a sus similitudes físicas, es posible el aprendizaje por transferencia entre las señales electromiográficas (EMG) de los músculos y la clasificación de los comportamientos de las ondas cerebrales electroencefalográficas (EEG), desde el dominio del reconocimiento de gestos hasta el dominio del reconocimiento de estados mentales. Se observó que esta relación funcionaba en ambas direcciones, lo que demuestra que las ondas cerebrales EEG también pueden utilizarse para clasificar señales EMG. ^{[ 27 ]} Los experimentos observaron que la precisión de las redes neuronales y las redes neuronales convolucionales mejoraba ^{[ 28 ]} mediante el aprendizaje por transferencia, tanto antes de cualquier aprendizaje (en comparación con la distribución de peso aleatoria estándar) como al final del proceso de aprendizaje (asíntota). Es decir, los resultados mejoran al exponerse a otro dominio. Además, el usuario final de un modelo preentrenado puede cambiar la estructura de las capas totalmente conectadas para mejorar el rendimiento. ^{[ 29 ]}

• Cruce (algoritmo genético)
• Adaptación de dominio
• Juego general
• Aprendizaje multitarea
• Optimización multitarea
• Transferencia del aprendizaje
• Aprendizaje de cero disparos
• Aprendizaje con pocos ejemplos
• Aprendizaje de características
• validez externa

• Thrun, Sebastian; Pratt, Lorien (6 de diciembre de 2012). Aprender a aprender . Springer Science & Business Media. ISBN 978-1-4615-5529-2.