Hispanopedia Wiki
Articulo de referencia

Computadora neuronal diferenciable

Un ordenador neuronal diferenciable en entrenamiento para almacenar y recuperar números binarios densos. Se muestra el rendimiento de una tarea de referencia durante el entrenam...

Hispanopedia WikiContenido en espanolLectura gratuita
Un ordenador neuronal diferenciable en entrenamiento para almacenar y recuperar números binarios densos. Se muestra el rendimiento de una tarea de referencia durante el entrenamiento. Arriba a la izquierda: la entrada (rojo) y el objetivo (azul), representados como palabras de 5 bits y una señal de interrupción de 1 bit. Arriba a la derecha: la salida del modelo.

En inteligencia artificial , una computadora neuronal diferenciable ( DNC ) es una arquitectura de red neuronal con memoria aumentada (MANN), que suele ser recurrente en su implementación (aunque no por definición). El modelo fue publicado en 2016 por Alex Graves et al. de DeepMind . [ 1 ]

Aplicaciones

DNC se inspira indirectamente en la arquitectura de Von Neumann , lo que hace probable que supere a las arquitecturas convencionales en tareas que son fundamentalmente algorítmicas y que no se pueden aprender encontrando un límite de decisión .

Hasta ahora, se ha demostrado que las DNC solo pueden manejar tareas relativamente simples, que se pueden resolver mediante programación convencional. Sin embargo, las DNC no necesitan programarse para cada problema, sino que pueden entrenarse. Esta capacidad de atención permite al usuario introducir estructuras de datos complejas , como grafos , de forma secuencial y recuperarlas para su uso posterior. Además, pueden aprender aspectos del razonamiento simbólico y aplicarlo a la memoria de trabajo. Los investigadores que publicaron el método ven potencial en el entrenamiento de las DNC para realizar tareas complejas y estructuradas [ 1 ] [ 2 ] y abordar aplicaciones de big data que requieren algún tipo de razonamiento, como la generación de comentarios de vídeo o el análisis semántico de texto. [ 3 ] [ 4 ]

DNC puede entrenarse para navegar en sistemas de transporte rápido y aplicar esa red a un sistema diferente. Una red neuronal sin memoria normalmente tendría que aprender sobre cada sistema de transporte desde cero. En tareas de recorrido de grafos y procesamiento de secuencias con aprendizaje supervisado , DNC tuvo un mejor desempeño que alternativas como la memoria a corto y largo plazo o una máquina de Turing neuronal . [ 5 ] Con un enfoque de aprendizaje por refuerzo para un problema de rompecabezas de bloques inspirado en SHRDLU , DNC se entrenó mediante aprendizaje curricular y aprendió a hacer un plan . Tuvo un mejor desempeño que una red neuronal recurrente tradicional . [ 5 ]

Arquitectura

Diagrama del sistema DNC

Las redes DNC se introdujeron como una extensión de la Máquina de Turing Neuronal (NTM), con la adición de mecanismos de atención de memoria que controlan dónde se almacena la memoria y atención temporal que registra el orden de los eventos. Esta estructura permite que las DNC sean más robustas y abstractas que una NTM, y que aún así realicen tareas con dependencias a largo plazo que algunos predecesores como la Memoria a Largo y Corto Plazo ( LSTM ). La memoria, que es simplemente una matriz, se puede asignar dinámicamente y acceder a ella indefinidamente. La DNC es diferenciable de extremo a extremo (cada subcomponente del modelo es diferenciable, por lo tanto, también lo es el modelo completo). Esto permite optimizarlas eficientemente mediante el descenso de gradiente . [ 3 ] [ 6 ] [ 7 ]

El modelo DNC es similar a la arquitectura de Von Neumann y, debido a la redimensionabilidad de la memoria, es Turing completo . [ 8 ]

Comité Nacional Demócrata tradicional

DNC, tal como se publicó originalmente [ 1 ]

Extensiones

Las mejoras incluyen el direccionamiento de memoria dispersa, que reduce la complejidad de tiempo y espacio en miles de veces. Esto se puede lograr utilizando un algoritmo de vecino más cercano aproximado, como el hash sensible a la localidad , o un árbol kd aleatorio como Fast Library for Approximate Nearest Neighbors de UBC . [ 9 ] Agregar tiempo de computación adaptativo (ACT) separa el tiempo de computación del tiempo de datos, que utiliza el hecho de que la longitud del problema y la dificultad del problema no siempre son iguales. [ 10 ] El entrenamiento utilizando gradientes sintéticos funciona considerablemente mejor que la retropropagación a través del tiempo (BPTT). [ 11 ] La robustez se puede mejorar con el uso de normalización de capas y Bypass Dropout como regularización. [ 12 ]

Véase también

Referencias

  1. 1 2 3 Graves, Alex; Wayne, Greg; Reynolds, Malcolm; Harley, Tim; Danihelka, Ivo; Grabska-Barwińska, Agnieszka; Colmenarejo, Sergio Gómez; Grefenstette, Edward; Ramalho, Tiago (2016-10-12). "Computación híbrida usando una red neuronal con memoria externa dinámica" . Nature . 538 ( 7626): 471– 476. Bibcode : 2016Natur.538..471G . doi : 10.1038/nature20101 . ISSN 1476-4687 . PMID 27732574. S2CID 205251479 .   
  2. ↑ "Computadoras neuronales diferenciables | DeepMind" . DeepMind . 12 de octubre de 2016. Consultado el 19 de octubre de 2016 .
  3. 1 2 Burgess, Matt. "La IA de DeepMind aprendió a viajar en el metro de Londres utilizando razonamiento y memoria similares a los humanos" . WIRED UK . Consultado el 19 de octubre de 2016 .
  4. ↑ Jaeger, Herbert (12 de octubre de 2016). "Inteligencia artificial: razonamiento neuronal profundo" . Nature . 538 (7626): 467–468 . Bibcode : 2016Natur.538..467J . doi : 10.1038/nature19477 . ISSN 1476-4687 . PMID 27732576 .  
  5. 1 2 James, Mike. "La red neuronal diferenciable de DeepMind piensa profundamente" . www.i-programmer.info . Consultado el 20 de octubre de 2016 .
  6. ↑ "La IA de DeepMind 'aprende' a navegar por el metro de Londres" . PCMAG . Consultado el 19 de octubre de 2016 .
  7. ↑ Mannes, John (13 de octubre de 2016). "La computadora neuronal diferenciable de DeepMind te ayuda a navegar por el metro con su memoria" . TechCrunch . Recuperado el 19 de octubre de 2016 .
  8. ↑ "Simposio RNN 2016: Alex Graves - Computadora neuronal diferenciable" . YouTube . 22 de marzo de 2017.
  9. ↑ Jack W Rae; Jonathan J Hunt; Harley, Tim; Danihelka, Ivo; Senior, Andrew; Wayne, Greg; Graves, Alex; Timothy P Lillicrap (2016). "Escalado de redes neuronales con memoria aumentada mediante lecturas y escrituras dispersas". arXiv : 1610.09027 [ cs.LG ].
  10. ↑ Graves, Alex (2016). "Tiempo de computación adaptativo para redes neuronales recurrentes". arXiv : 1603.08983 [ cs.NE ].
  11. ↑ Jaderberg, Max; Wojciech Marian Czarnecki; Osindero, Simon; Vinyals, Oriol; Graves, Alex; Silver, David; Kavukcuoglu, Koray (2016). "Interfaces neuronales desacopladas mediante gradientes sintéticos". arXiv : 1608.05343 [ cs.LG ].
  12. ↑ Franke, Jörg; Niehues, Jan; Waibel, Alex (2018). "Computadora neuronal diferenciable robusta y escalable para responder preguntas". arXiv : 1807.02658 [ cs.CL ].
  • Una guía paso a paso de las ecuaciones que rigen las computadoras neuronales diferenciables.
  • La red neuronal diferenciable de DeepMind piensa profundamente.