Articulo de referencia

Red neuronal óptica

{{cite journal |first1=Chao |last1=Qian |first2=Xiao |last2=Lin |first3=Xiaobin |last3=Lin |first4=Jian |last4=Xu |first5=Yang |last5=Sun |first6=Erping |last6=Li |first7=Baile ...

Esquema de una red neuronal óptica que funciona como una puerta lógica (arriba) y su implementación en frecuencias de microondas (abajo). Las metasuperficies difractivas intermedias funcionan como capas ocultas . [ 1 ]

Una red neuronal óptica es una implementación física de una red neuronal artificial con componentes ópticos . Las primeras redes neuronales ópticas utilizaban un holograma volumétrico fotorrefractivo para interconectar conjuntos de neuronas de entrada con conjuntos de salida, con pesos sinápticos proporcionales a la intensidad del holograma multiplexado. [ 2 ] Los hologramas volumétricos se multiplexaron aún más mediante la quema de agujeros espectrales para añadir una dimensión de longitud de onda al espacio y lograr interconexiones tetradimensionales de conjuntos bidimensionales de entradas y salidas neuronales. [ 3 ] Esta investigación dio lugar a una extensa investigación sobre métodos alternativos que utilizan la intensidad de la interconexión óptica para implementar comunicaciones neuronales. [ 4 ]

Algunas redes neuronales artificiales que se han implementado como redes neuronales ópticas incluyen la red neuronal de Hopfield [ 5 ] y el mapa autoorganizado de Kohonen con moduladores espaciales de luz de cristal líquido [ 6 ]. Las redes neuronales ópticas también pueden basarse en los principios de la ingeniería neuromórfica , creando sistemas fotónicos neuromórficos . Típicamente, estos sistemas codifican información en las redes usando impulsos, imitando la funcionalidad de las redes neuronales de impulsos en hardware óptico y fotónico. Los dispositivos fotónicos que han demostrado funcionalidades neuromórficas incluyen (entre otros) láseres de emisión superficial de cavidad vertical [ 7 ] [ 8 ] , moduladores fotónicos integrados [ 9 ] , sistemas optoelectrónicos basados ​​en uniones Josephson superconductoras [ 10 ] o sistemas basados ​​en diodos de tunelización resonante [ 11 ] .

Redes neuronales electroquímicas frente a redes neuronales ópticas

Las redes neuronales biológicas funcionan sobre una base electroquímica, mientras que las redes neuronales ópticas utilizan ondas electromagnéticas. Se pueden crear interfaces ópticas para redes neuronales biológicas mediante optogenética , pero no es lo mismo que una red neuronal óptica. En las redes neuronales biológicas existen muchos mecanismos diferentes para cambiar dinámicamente el estado de las neuronas, entre ellos la plasticidad sináptica a corto y largo plazo . La plasticidad sináptica es uno de los fenómenos electrofisiológicos que se utilizan para controlar la eficiencia de la transmisión sináptica: a largo plazo para el aprendizaje y la memoria, y a corto plazo para cambios transitorios en la eficiencia de la transmisión sináptica. Implementar esto con componentes ópticos es difícil e idealmente requiere materiales fotónicos avanzados. Entre las propiedades deseables en los materiales fotónicos para redes neuronales ópticas se incluye la capacidad de cambiar su eficiencia de transmisión de luz, en función de la intensidad de la luz incidente.

La era emergente de las redes neuronales ópticas

Con la creciente importancia de la visión artificial en diversos dominios, el coste computacional de estas tareas ha aumentado, lo que hace más importante el desarrollo de nuevos enfoques para la aceleración del procesamiento. La computación óptica ha surgido como una alternativa potencial a la aceleración por GPU para redes neuronales modernas, especialmente considerando la inminente obsolescencia de la Ley de Moore. En consecuencia, las redes neuronales ópticas han captado una mayor atención en la comunidad investigadora. Actualmente, se están investigando dos métodos principales de computación neuronal óptica: basados ​​en fotónica de silicio y óptica de espacio libre. Cada enfoque tiene sus ventajas y desventajas; si bien la fotónica de silicio puede ofrecer una velocidad superior, carece del paralelismo masivo que puede proporcionar la óptica de espacio libre. Dada la considerable capacidad de paralelismo de la óptica de espacio libre, los investigadores se han centrado en aprovecharla. Una implementación, propuesta por Lin et al., [ 12 ] implica el entrenamiento y la fabricación de máscaras de fase para un clasificador de dígitos escritos a mano. Al apilar máscaras de fase impresas en 3D, la luz que pasa a través de la red fabricada puede ser leída por una matriz de fotodetectores de diez detectores, cada uno representando una clase de dígito que va del 1 al 10. Aunque esta red puede lograr la clasificación en el rango de terahercios, carece de flexibilidad, ya que las máscaras de fase se fabrican para una tarea específica y no se pueden reentrenar. Un método alternativo para la clasificación en óptica de espacio libre, introducido por Cahng et al., [ 13 ] emplea un sistema 4F que se basa en el teorema de convolución para realizar operaciones de convolución. Este sistema utiliza dos lentes para ejecutar las transformadas de Fourier de la operación de convolución, lo que permite la conversión pasiva al dominio de Fourier sin consumo de energía ni latencia. Sin embargo, los núcleos de la operación de convolución en esta implementación también son máscaras de fase fabricadas, lo que limita la funcionalidad del dispositivo solo a capas convolucionales específicas de la red. En contraste, Li et al. [ 14 ] propusieron una técnica que involucra el teselado de kernels para aprovechar el paralelismo del sistema 4F, utilizando un dispositivo de micromirrores digitales (DMD) en lugar de una máscara de fase. Este enfoque permite a los usuarios cargar varios kernels en el sistema 4F y ejecutar la inferencia de toda la red en un solo dispositivo. Desafortunadamente, las redes neuronales modernas no están diseñadas para los sistemas 4F, ya que se desarrollaron principalmente durante la era de las CPU/GPU. Esto se debe principalmente a que tienden a usar una resolución menor y un gran número de canales en sus mapas de características.

Otras implementaciones

En 2007 existía un modelo de red neuronal óptica: el Computador Analógico/de Matriz Óptica Programable (POAC). Este modelo, implementado en el año 2000, se basaba en un correlador de transformada de Fourier conjunta (JTC) modificado y en la bacteriorrodopsina (BR) como memoria óptica holográfica. El paralelismo total, el gran tamaño de la matriz y la velocidad de la luz son tres de las ventajas que ofrece el POAC para la implementación de una CNN óptica. Estas ventajas se han investigado durante los últimos años, considerando sus limitaciones y aspectos prácticos, lo que ha dado lugar al diseño de la primera versión portátil del POAC.

Se publicaron los detalles prácticos: hardware (configuraciones ópticas) y software (plantillas ópticas). Sin embargo, POAC es un ordenador de matriz programable y de propósito general que tiene una amplia gama de aplicaciones, entre las que se incluyen:

Progreso en la década de 2020

Taichi, de la Universidad de Tsinghua en Pekín, es una ONN híbrida que combina la eficiencia energética y el paralelismo de la difracción óptica con la configurabilidad de la interferencia óptica. Taichi ofrece 13,96 millones de parámetros. Evita las altas tasas de error que afectan a las redes profundas (multicapa) al combinar grupos de unidades difractivas de pocas capas con matrices de interferómetros para una computación reconfigurable. Su protocolo de codificación divide los modelos de red grandes en submodelos que pueden distribuirse en paralelo entre múltiples chiplets. [ 15 ]

Taichi logró una precisión del 91,89 % en las pruebas con la base de datos Omniglot . También se utilizó para generar música de Bach y generar imágenes al estilo de Van Gogh y Munch . [ 15 ]

Los desarrolladores afirmaron una eficiencia energética de hasta 160 billones de operaciones segundo⁻¹ vatio⁻¹ y una eficiencia de área de 880 billones de operaciones de multiplicación-acumulación mm⁻² o 10³ más eficiente energéticamente que la NVIDIA H100 , y 10² veces más eficiente energéticamente y 10 veces más eficiente en área que las ONN anteriores. [ 15 ]

Recientemente se ha introducido la dimensión temporal en las redes neuronales difractivas mediante litografía láser de femtosegundos (fs) para la hidratación de perovskita. El comportamiento temporal de la neurona puede modularse mediante el láser fs a nanoescala, lo que permite una red neuronal holográfica programable con funcionalidad de evolución temporal; es decir, la funcionalidad puede cambiar con el tiempo bajo estímulos de hidratación. Se demostró una funcionalidad de inferencia temporal en memoria que imita la evolución funcional del cerebro humano; es decir, la funcionalidad puede cambiar con el tiempo desde la clasificación simple de imágenes de dígitos hasta la clasificación más compleja de imágenes de dígitos y productos de ropa. Esta es la primera vez que se introduce la dimensión temporal en una red neuronal óptica, sentando las bases para el desarrollo futuro de chips fotónicos similares al cerebro. [ 16 ]

Véase también

Referencias

  1. Qian, Chao; Lin, Xiao; Lin, Xiaobin; Xu, Jian; Sun, Yang; Li, Erping; Zhang, Baile; Chen, Hongsheng (2020). "Realización de operaciones lógicas ópticas mediante una red neuronal difractiva" . Light: Science & Applications . 9 (59): 59. Bibcode : 2020LSA.....9...59Q . doi : 10.1038/ s41377-020-0303-2 . PMC 7154031. PMID 32337023 .  
  2. Wagner K, Psaltis D (1988). "Redes ópticas adaptativas que utilizan cristales fotorrefractivos" . Appl. Opt . 27 (9): 1752– 1759. Bibcode : 1988ApOpt..27.1752P . doi : 10.1364/AO.27.001752 . PMID 20531647 . 
  3. Weverka R, Wagner K, Saffman M (1991). "Matrices neuronales bidimensionales totalmente interconectadas mediante hologramas volumétricos multiplexados por longitud de onda". Optics Letters . 16 (11): 826– 828. Bibcode : 1991OptL...16..826W . doi : 10.1364/OL.16.000826 . PMID 19776798 . 
  4. Wagner K, Psaltis D (1993). "Redes neuronales ópticas: una introducción de los editores de características" . Appl. Opt . 32 (8): 1261– 1263. Bibcode : 1993ApOpt..32.1261W . doi : 10.1364/AO.32.001261 . PMID 20820259 . 
  5. Ramachandran R, Gunasekaran N (2000). "Implementación óptica de una red neuronal bidimensional basada en el modelo bipolar de Hopfield (nota científica)" (PDF) . Actas del Consejo Nacional de Ciencias de la República de China, Parte A, Ciencias Físicas e Ingeniería . 24 (1): 73–8 . Archivado del original (PDF) el 12 de octubre de 2004.
  6. Duvillier J, Killinger M, Heggarty K, Yao K, de Bougrenet de la Tocnaye JL (enero de 1994). "Implementación totalmente óptica de un mapa autoorganizado: un enfoque preliminar". Applied Optics . 33 (2): 258– 66. Bibcode : 1994ApOpt..33..258D . doi : 10.1364/AO.33.000258 . PMID 20862015 . 
  7. Hejda M, Robertson J, Bueno J, Alanis J, Hurtado A (2021-06-01). "Codificación neuromórfica de datos de píxeles de imagen en trenes de impulsos ópticos codificados por tasa con una neurona VCSEL fotónica" . APL Photonics . 6 (6) 060802. Bibcode : 2021APLP....6f0802H . doi : 10.1063/5.0048674 . ISSN 2378-0967 . 
  8. Robertson J, Hejda M, Bueno J, Hurtado A (abril de 2020). "Integración óptica ultrarrápida y clasificación de patrones para fotónica neuromórfica basada en neuronas VCSEL de picos" . Scientific Reports . 10 (1) 6098. Bibcode : 2020NatSR..10.6098R . doi : 10.1038 / s41598-020-62945-5 . PMC 7142074. PMID 32269249 .  
  9. George JK, Mehrabian A, Amin R, Meng J, de Lima TF, Tait AN, et al. (febrero de 2019). "Fotónica neuromórfica con moduladores de electroabsorción". Optics Express . 27 (4): 5181– 5191. arXiv : 1809.03545 . Bibcode : 2019OExpr..27.5181G . doi : 10.1364/OE.27.005181 . PMID 30876120. S2CID 80625696 .   
  10. Shainline JM (enero de 2020). "Procesamiento fluxónico de eventos de sinapsis fotónicas". IEEE Journal of Selected Topics in Quantum Electronics . 26 (1): 1– 15. arXiv : 1904.02807 . Bibcode : 2020IJSTQ..2627473S . doi : 10.1109/JSTQE.2019.2927473 . ISSN 1077-260X . S2CID 102352120 .  
  11. Romeira B, Javaloyes J, Ironside CN, Figueiredo JM, Balle S, Piro O (septiembre de 2013). "Excitabilidad y generación de pulsos ópticos en láseres semiconductores impulsados ​​por fotodetectores de diodo de túnel resonante". Optics Express . 21 (18): 20931– 40. Bibcode : 2013OExpr..2120931R . doi : 10.1364/OE.21.020931 . hdl : 10400.1/11954 . PMID 24103966. S2CID 480070 .  
  12. Lin, Xing; Rivenson, Yair; Yardimci, Nezih T.; Veli, Muhammed; Luo, Yi; Jarrahi, Mona; Ozcan, Aydogan (7 de septiembre de 2018). "Aprendizaje automático totalmente óptico mediante redes neuronales profundas difractivas" . Science . 361 (6406): 1004– 1008. arXiv : 1804.08711 . Bibcode : 2018Sci...361.1004L . doi : 10.1126 /science.aat8084 . PMID 30049787. S2CID 13753997 .  
  13. Chang, Julie; Sitzmann, Vincent; Dun, Xiong; Heidrich, Wolfgang; Wetzstein, Gordon (17 de agosto de 2018). " Redes neuronales convolucionales híbridas óptico-electrónicas con óptica difractiva optimizada para la clasificación de imágenes" . Scientific Reports . 8 (1): 12324. Bibcode : 2018NatSR...812324C . doi : 10.1038/s41598-018-30619- y . PMC 6098044. PMID 30120316. S2CID 256961403 .   
  14. Li, Shurui; Miscuglio, Mario; Sorger, Volker J.; Gupta, Puneet (2020). "Channel Tiling for Improved Performance and Accuracy of Optical Neural Network Accelerators". arXiv : 2011.07391 [ cs.ET ].
  15. 1 2 3 CHOI, CHARLES Q. (12 de abril de 2024). "El chip de IA reduce el presupuesto de energía en más del 99 por ciento - IEEE Spectrum" . IEEE . Recuperado el 17 de abril de 2024 .
  16. Zhang, Yinan; Zhu, Shengting; Hu, Jinming; Gu, Min (6 de octubre de 2024). "Nanolitografía directa con láser de femtosegundos de la hidratación de perovskita para hologramas programables temporalmente" . Nature Communications . 15 (1): 1661. Bibcode : 2024NatCo..15.6661Z . doi : 10.1038/s41467-024-51148-5 . PMC 11303552. PMID 39107331 .