Paralelo vergonzosamente

En computación paralela , una carga de trabajo o problema fácilmente paralelizable (también llamado fácilmente paralelizable , perfectamente paralelizable , deliciosamente paralelizable o agradablemente paralelizable ) es aquel en el que se necesita poco o ningún esfuerzo para dividir el problema en varias tareas paralelas. ^{[ 1 ]} Esto se debe a la mínima o nula dependencia de la comunicación entre las tareas paralelas, o de los resultados entre ellas. ^{[ 2 ]}

Estos problemas difieren de los problemas de computación distribuida , que requieren comunicación entre tareas, especialmente la comunicación de resultados intermedios. Son más fáciles de resolver en granjas de servidores que carecen de la infraestructura especializada utilizada en un verdadero clúster de supercomputadoras . Se adaptan bien a grandes plataformas de computación distribuida basadas en Internet , como BOINC , y sufren menos ralentización por paralelismo . Lo opuesto a los problemas fácilmente paralelizable son los problemas inherentemente seriales , que no pueden paralelizarse en absoluto.

Un ejemplo común de un problema fácilmente paralelizable es la renderización de video 3D manejada por una unidad de procesamiento gráfico , donde cada fotograma (método directo) o píxel ( método de trazado de rayos ) puede manejarse sin interdependencia. ^{[ 3 ]} Algunas formas de descifrado de contraseñas son otra tarea fácilmente paralelizable que se distribuye fácilmente en unidades centrales de procesamiento , núcleos de CPU o clústeres.

Aquí, "vergonzosamente" se usa para referirse a problemas de paralelización que son "vergonzosamente fáciles". ^{[ 4 ]} El término puede implicar vergüenza por parte de los desarrolladores o compiladores: "Debido a que muchos problemas importantes permanecen sin resolver, principalmente debido a su complejidad computacional intrínseca, sería vergonzoso no desarrollar implementaciones paralelas de métodos de continuación de homotopía polinomial ". ^{[ 5 ]} El término aparece por primera vez en la literatura en un libro de 1986 sobre multiprocesadores del creador de MATLAB , Cleve Moler , ^{[ 6 ]} quien afirma haberlo inventado. ^{[ 7 ]}

Un término alternativo, agradablemente paralelo , ha ganado cierto uso, tal vez para evitar las connotaciones negativas de vergüenza en favor de una reflexión positiva sobre la paralelización de los problemas: "Por supuesto, no hay nada vergonzoso en estos programas en absoluto". ^{[ 8 ]}

Un ejemplo sencillo consiste en servir datos estáticos. Bastaría con que varias unidades de procesamiento produjeran el mismo conjunto de bits. De hecho, el famoso problema de «Hola Mundo» podría paralelizarse fácilmente con pocas consideraciones de programación y escaso coste computacional.

Algunos ejemplos de problemas sorprendentemente similares incluyen:

• Método de Monte Carlo ^{[ 9 ]}
• Consultas a bases de datos relacionales distribuidas mediante procesamiento de conjuntos distribuidos .
• Integración numérica ^{[ 10 ]}
• Procesamiento masivo de archivos no relacionados entre sí, pero de naturaleza similar, como el redimensionamiento y la conversión de galerías de fotos.
• El conjunto de Mandelbrot , el ruido de Perlin e imágenes similares, donde cada punto se calcula de forma independiente.
• Renderizado de gráficos por computadora . En la animación por computadora , cada fotograma o píxel puede renderizarse de forma independiente.
• Algunas búsquedas de fuerza bruta en criptografía . ^{[ 11 ]} Ejemplos notables del mundo real incluyen distributed.net y sistemas de prueba de trabajo utilizados en criptomonedas .
• Búsquedas BLAST en bioinformática con bases de datos divididas. ^{[ 12 ]}
• Sistemas de reconocimiento facial a gran escala que comparan miles de rostros adquiridos arbitrariamente (por ejemplo, un video de seguridad o vigilancia a través de circuito cerrado de televisión ) con un número igualmente grande de rostros previamente almacenados (por ejemplo, una galería de delincuentes o una lista de vigilancia similar ). ^{[ 13 ]}
• Simulaciones informáticas que comparan muchos escenarios independientes.
• Algoritmos genéticos . ^{[ 14 ]}
• Cálculos de conjunto para la predicción numérica del tiempo .
• Simulación y reconstrucción de eventos en física de partículas .
• El algoritmo de los cuadrados marchantes .
• Paso de tamizado del tamiz cuadrático y del tamiz de campo numérico .
• Paso de crecimiento del árbol en la técnica de aprendizaje automático de bosques aleatorios .
• Transformada discreta de Fourier, donde cada armónico se calcula de forma independiente.
• Redes neuronales convolucionales ejecutándose en GPU .
• Búsqueda paralela en programación con restricciones ^{[ 15 ]}

• En R (lenguaje de programación) , el paquete Simple Network of Workstations (SNOW) implementa un mecanismo sencillo para utilizar un conjunto de estaciones de trabajo o un clúster Beowulf para realizar cálculos fácilmente paralelos. ^{[ 16 ]} Otros paquetes similares de R incluyen "future", "parallel" y otros.

• La ley de Amdahl define el valor P , que sería casi o exactamente igual a 1 para problemas fácilmente paralelizados.
• Autómata celular
• Máquina de conexión
• Marco de trabajo CUDA
• procesador multinúcleo
• Mapa (patrón paralelo)
• Masivamente paralelo
• Multiprocesamiento
• Computación paralela
• Programación orientada a procesos
• Arquitectura sin recursos compartidos (SN)
• Multiprocesamiento simétrico (SMP)
• Procesador vectorial

• Computaciones paralelas vergonzosamente complejas : Ingeniería de un clúster de computación al estilo Beowulf.
• " Star-P: Computación paralela de alta productividad "