Tubería (informática)

En informática , una tubería o canalización de datos ^{[ 1 ]} es un conjunto de elementos de procesamiento de datos conectados en serie, donde la salida de un elemento es la entrada del siguiente. Los elementos de una tubería suelen ejecutarse en paralelo o en intervalos de tiempo. A menudo se inserta cierta cantidad de almacenamiento intermedio entre los elementos.

Las tuberías relacionadas con la informática incluyen:

• Las arquitecturas de procesamiento en paralelo (pipelines ), como la clásica arquitectura RISC , se utilizan en unidades centrales de procesamiento (CPU) y otros microprocesadores para permitir la ejecución simultánea de múltiples instrucciones con el mismo circuito . El circuito se divide generalmente en etapas, y cada etapa procesa una parte específica de una instrucción a la vez, pasando los resultados parciales a la siguiente etapa. Ejemplos de etapas son la decodificación de instrucciones, la aritmética/lógica y la búsqueda de registros. Estas tecnologías están relacionadas con la ejecución superescalar , el reenvío de operandos , la ejecución especulativa y la ejecución fuera de orden .
• Las tuberías gráficas , presentes en la mayoría de las unidades de procesamiento gráfico (GPU), constan de múltiples unidades aritméticas o CPU completas que implementan las distintas etapas de las operaciones de renderizado comunes ( proyección en perspectiva , recorte de ventanas , cálculo de color y luz , renderizado, etc.).
• Las tuberías de software , que consisten en una secuencia de procesos informáticos (comandos, ejecuciones de programas, tareas, subprocesos, procedimientos, etc.), se ejecutan conceptualmente en paralelo, donde el flujo de salida de un proceso se alimenta automáticamente como flujo de entrada del siguiente. La tubería de llamadas al sistema Unix es un ejemplo clásico de este concepto.
• La técnica de canalización HTTP consiste en enviar múltiples solicitudes HTTP a través de la misma conexión TCP , sin esperar a que finalice la anterior antes de enviar una nueva.

Si una canalización consta de pasos idempotentes , estos pueden repetirse sin alterar el resultado más allá de la ejecución inicial. Esto resulta ventajoso en términos de fiabilidad y mantenimiento.

Dado que el rendimiento de una cadena de producción no puede ser superior al de su elemento más lento, el diseñador debe intentar distribuir el trabajo y los recursos entre las etapas de manera que todas tarden el mismo tiempo en completar sus tareas. En el ejemplo del ensamblaje de automóviles mencionado anteriormente, si las tres tareas tardaran 15 minutos cada una, en lugar de 20, 10 y 15 minutos, la latencia seguiría siendo de 45 minutos, pero se terminaría un automóvil nuevo cada 15 minutos, en lugar de cada 20.

En circunstancias ideales, si todos los elementos de procesamiento están sincronizados y tardan el mismo tiempo en procesarse, cada elemento puede ser recibido por cada elemento en el mismo instante en que el anterior lo libera, en un solo ciclo de reloj . De esta forma, los elementos fluirán a través de la tubería a una velocidad constante, como las olas en un canal de agua. En tales "tuberías de ondas" ^{[ 2 ]} , no se requiere sincronización ni almacenamiento en búfer entre las etapas, aparte del almacenamiento necesario para los elementos de datos.

En términos más generales, el almacenamiento temporal entre las etapas del flujo de procesamiento es necesario cuando los tiempos de procesamiento son irregulares o cuando se pueden crear o destruir elementos a lo largo del flujo. Por ejemplo, en un flujo de procesamiento gráfico que procesa triángulos para su visualización en pantalla, un elemento que verifica la visibilidad de cada triángulo puede descartarlo si es invisible o generar dos o más fragmentos triangulares del elemento si están parcialmente ocultos. El almacenamiento temporal también es necesario para compensar las irregularidades en la velocidad a la que la aplicación envía elementos a la primera etapa y consume la salida de la última.

El búfer entre dos etapas puede ser simplemente un registro de hardware con la lógica de sincronización y señalización adecuada. Cuando la etapa A almacena un dato en el registro, envía una señal de "datos disponibles" a la siguiente etapa B. Una vez que B ha utilizado esos datos, responde con una señal de "datos recibidos" a A. La etapa A se detiene, esperando esta señal, antes de almacenar el siguiente dato en el registro. La etapa B se detiene, esperando la señal de "datos disponibles", si está lista para procesar el siguiente dato pero la etapa A aún no lo ha proporcionado.

Si los tiempos de procesamiento de un elemento son variables, es posible que toda la cadena de procesamiento deba detenerse con frecuencia, esperando a que dicho elemento y los anteriores consuman los datos de sus búferes de entrada. La frecuencia de estas paradas puede reducirse proporcionando espacio para más de un elemento en el búfer de entrada de esa etapa. Este búfer de múltiples elementos se suele implementar como una cola FIFO (primero en entrar, primero en salir) . La etapa anterior aún podría tener que detenerse cuando la cola se llene, pero la frecuencia de estos eventos disminuirá a medida que se proporcionen más ranuras de búfer. La teoría de colas permite determinar el número de ranuras de búfer necesarias, en función de la variabilidad de los tiempos de procesamiento y del rendimiento deseado.

Si alguna etapa tarda (o puede tardar) mucho más que las demás y no se puede acelerar, el diseñador puede proporcionar dos o más elementos de procesamiento para realizar esa tarea en paralelo, con un único búfer de entrada y un único búfer de salida. Cuando cada elemento termina de procesar su dato actual, lo entrega al búfer de salida común y toma el siguiente dato del búfer de entrada común. Este concepto de procesamiento en cadena "no lineal" o "dinámico" se ejemplifica en tiendas o bancos que tienen dos o más cajeros atendiendo a los clientes desde una única cola de espera.

En algunas aplicaciones, el procesamiento de un elemento Y por parte de la etapa A puede depender de los resultados o el efecto del procesamiento de un elemento X anterior por parte de una etapa B posterior del proceso. En ese caso, la etapa A no puede procesar correctamente el elemento Y hasta que el elemento X haya finalizado el procesamiento en la etapa B.

Esta situación se presenta con frecuencia en las tuberías de instrucciones. Por ejemplo, supongamos que Y es una instrucción aritmética que lee el contenido de un registro que debería haber sido modificado por una instrucción X anterior. Sea A la etapa que obtiene los operandos de la instrucción y B la etapa que escribe el resultado en el registro especificado. Si la etapa A intenta procesar la instrucción Y antes de que la instrucción X llegue a la etapa B, el registro aún podría contener el valor anterior, y el efecto de Y sería incorrecto.

Para gestionar correctamente este tipo de conflictos, la tubería debe contar con circuitos o lógica adicionales que los detecten y tomen las medidas adecuadas. Algunas estrategias para lograrlo incluyen:

• Retraso: Cada etapa afectada, como la A, se detiene hasta que se resuelve la dependencia, es decir, hasta que se dispone de la información necesaria o se alcanza el estado requerido.
• Reordenamiento de elementos: En lugar de detenerse, la etapa A puede dejar de lado el elemento Y y buscar cualquier elemento Z subsiguiente en su flujo de entrada que no tenga dependencias pendientes con ningún elemento anterior. En las tuberías de instrucciones, esta técnica se denomina ejecución fuera de orden .
• Adivinar y retroceder: Un ejemplo importante de dependencia entre elementos es el manejo de una instrucción de salto condicional X por parte de una tubería de instrucciones. La primera etapa A de la tubería, que obtiene la siguiente instrucción Y que se ejecutará, no puede realizar su tarea hasta que X haya obtenido su operando y haya determinado si el salto debe tomarse o no. Esto puede llevar muchos ciclos de reloj, ya que el operando de X puede, a su vez, depender de instrucciones anteriores que obtienen datos de la memoria principal.

En lugar de detenerse mientras espera a que X termine, la etapa A puede adivinar si se tomará la bifurcación o no, y obtener la siguiente instrucción Y basándose en esa adivinación. Si la adivinación resulta ser incorrecta (esperemos que rara vez), el sistema tendría que retroceder y reanudar con la opción correcta. Es decir, todos los cambios realizados en el estado de la máquina por la etapa A y las etapas subsiguientes basándose en esa adivinación tendrían que deshacerse, las instrucciones que siguen a X que ya están en la tubería tendrían que vaciarse, y la etapa A tendría que reiniciarse con el puntero de instrucción correcto . Esta estrategia de predicción de bifurcaciones es un caso especial de ejecución especulativa .