Hyper-threading

Hyper-threading (oficialmente llamado Hyper-Threading Technology o HT Technology y abreviado como HTT o HT ) es la implementación de multihilo simultáneo (SMT) propiedad de Intel que se utiliza para mejorar la paralelización de los cálculos (realizar múltiples tareas a la vez) en los microprocesadores x86 . Se introdujo en los procesadores de servidor Xeon en febrero de 2002 y en los procesadores de escritorio Pentium 4 en noviembre de 2002. ^{[ 4 ]} Desde entonces, Intel ha incluido esta tecnología en las CPU de las series Itanium , Atom y Core , entre otras. ^{[ 5 ]}

Por cada núcleo de procesador físicamente presente, el sistema operativo accede a dos núcleos virtuales (lógicos) y distribuye la carga de trabajo entre ellos cuando es posible. La función principal del hyper-threading es aumentar el número de instrucciones independientes en la tubería; aprovecha la arquitectura superescalar , en la que múltiples instrucciones operan en paralelo sobre datos separados . Con HTT, un núcleo físico aparece como dos procesadores para el sistema operativo, lo que permite la planificación concurrente de dos procesos por núcleo. Además, dos o más procesos pueden usar los mismos recursos: si los recursos para un proceso no están disponibles, otro proceso puede continuar si sus recursos están disponibles.

Además de requerir soporte para multihilo simultáneo en el sistema operativo, el hyper-threading solo puede utilizarse correctamente con un sistema operativo específicamente optimizado para ello. ^{[ 6 ]}

La tecnología Hyper-Threading es una forma de multihilo simultáneo introducida por Intel, mientras que el concepto subyacente ha sido patentado por Sun Microsystems . Arquitectónicamente, un procesador con tecnología Hyper-Threading consta de dos procesadores lógicos por núcleo, cada uno con su propio estado arquitectónico. Cada procesador lógico puede detenerse, interrumpirse o ejecutarse individualmente para un hilo específico, independientemente del otro procesador lógico que comparte el mismo núcleo físico. ^{[ 8 ]}

A diferencia de una configuración tradicional de doble procesador que utiliza dos procesadores físicos separados, los procesadores lógicos en un núcleo con tecnología Hyper-Threading comparten los recursos de ejecución. Estos recursos incluyen el motor de ejecución, las cachés y la interfaz del bus del sistema; el uso compartido de recursos permite que dos procesadores lógicos trabajen juntos de manera más eficiente y que un procesador lógico tome prestados recursos de un núcleo lógico bloqueado (siempre que ambos núcleos lógicos estén asociados al mismo núcleo físico). Un procesador se bloquea cuando debe esperar los datos que ha solicitado para terminar de procesar el hilo actual. El grado de beneficio que se observa al usar un procesador con tecnología Hyper-Threading o multinúcleo depende de las necesidades del software y de la eficacia con la que tanto el software como el sistema operativo estén programados para administrar el procesador de manera eficiente. ^{[ 8 ]}

Hyper-threading funciona duplicando ciertas secciones del procesador —aquellas que almacenan el estado arquitectónico— pero sin duplicar los recursos de ejecución principales . Esto permite que un procesador con Hyper-threading aparezca como el procesador físico habitual más un procesador lógico adicional para el sistema operativo anfitrión (los sistemas operativos que no admiten HTT ven dos procesadores físicos), lo que permite al sistema operativo programar dos hilos o procesos simultáneamente y de forma adecuada. Cuando los recursos de ejecución de un procesador con Hyper-threading no están siendo utilizados por la tarea actual, y especialmente cuando el procesador está bloqueado, dichos recursos pueden utilizarse para ejecutar otra tarea programada. (El procesador puede bloquearse debido a un fallo de caché , una predicción errónea de bifurcación o una dependencia de datos ). ^{[ 9 ]}

Esta tecnología es transparente para los sistemas operativos y los programas. El requisito mínimo para aprovechar la tecnología hyper-threading es la compatibilidad con el procesamiento simétrico multiprocesador (SMP) en el sistema operativo, ya que los procesadores lógicos no se diferencian de los procesadores físicos para el sistema operativo.

Es posible optimizar el comportamiento del sistema operativo en sistemas multiprocesador con capacidad de hyper-threading. Por ejemplo, consideremos un sistema SMP con dos procesadores físicos con hyper-threading (para un total de cuatro procesadores lógicos). Si el planificador de hilos del sistema operativo desconoce hyper-threading, tratará a los cuatro procesadores lógicos por igual. Si solo dos hilos son aptos para ejecutarse, podría optar por programarlos en los dos procesadores lógicos que pertenecen al mismo procesador físico. Dicho procesador estaría extremadamente ocupado y compartiría recursos de ejecución, mientras que el otro permanecería inactivo, lo que resultaría en un rendimiento inferior al que se obtendría si los hilos se programaran en procesadores físicos diferentes. Este problema puede evitarse mejorando el planificador para que trate a los procesadores lógicos de forma diferente a los físicos, lo que, en cierto modo, representa una forma limitada de los cambios en el planificador necesarios para los sistemas NUMA .

El primer artículo publicado que describía lo que ahora se conoce como hyper-threading en una computadora de propósito general fue escrito por Edward S. Davidson y Leonard E. Shar en 1973. ^{[ 10 ]}

Denelcor, Inc. introdujo la multihilo con el Procesador de Elementos Heterogéneos (HEP) en 1982. La tubería del HEP no podía contener múltiples instrucciones del mismo proceso. Solo se permitía una instrucción de un proceso determinado en la tubería en cualquier momento. Si una instrucción de un proceso bloqueaba la tubería, las instrucciones de otros procesos continuarían una vez que esta se vaciara.

La patente estadounidense para la tecnología detrás del hyper-threading fue otorgada a Kenneth Okin en Sun Microsystems en noviembre de 1994. En ese momento, la tecnología de proceso CMOS no estaba lo suficientemente avanzada como para permitir una implementación rentable. ^{[ 11 ]}

Intel implementó la tecnología Hyper-Threading en un procesador con arquitectura x86 en 2002 con el Xeon basado en Foster MP . También se incluyó en el  Pentium 4 basado en Northwood de 3,06 GHz  ese mismo año, y desde entonces se ha mantenido como una característica en todos los procesadores Pentium  4  HT, Pentium  4 Extreme Edition y Pentium Extreme Edition. Las líneas de procesadores Intel Core y Core 2 (2006) que sucedieron a la línea de modelos Pentium 4 no utilizaban Hyper-Threading. Los procesadores basados ​​en la microarquitectura Core no contaban con Hyper-Threading porque la microarquitectura Core era descendiente de la antigua microarquitectura P6 . La microarquitectura P6 se ​​utilizó en iteraciones anteriores de procesadores Pentium, concretamente, el Pentium Pro , el Pentium II y el Pentium III (además de sus derivados Celeron y Xeon de la época). Windows 2000 SP3 y Windows XP SP1 han añadido compatibilidad con la tecnología hyper-threading.

Intel lanzó la microarquitectura Nehalem (Core  i7) en noviembre de 2008, en la que regresó el hyper-threading. Los procesadores Nehalem de primera generación contenían cuatro núcleos físicos y escalaban efectivamente a ocho hilos. Desde entonces, se han lanzado modelos de dos y seis núcleos, que escalan cuatro y doce hilos respectivamente. ^{[ 12 ]} Los primeros núcleos Intel Atom eran procesadores en orden, a veces con capacidad hyper-threading, para PC móviles de bajo consumo y PC de escritorio de bajo precio. ^{[ 13 ]} El Itanium  9300 se lanzó con ocho hilos por procesador (dos hilos por núcleo) a través de la tecnología hyper-threading mejorada. El siguiente modelo, el Itanium 9500 (Poulson), presenta una arquitectura de emisión de 12 anchos, con ocho núcleos de CPU con soporte para ocho núcleos virtuales más a través de hyper-threading. ^{[ 14 ]} Los chips de servidor Intel Xeon  5500 también utilizan hyper-threading bidireccional. ^{[ 15 ] [ 16 ]}

Según Intel, la primera implementación de hyper-threading utilizó solo un 5 % más de área de chip que el procesador comparable sin hyper-threading, pero el rendimiento fue entre un 15 % y un 30 % mejor. ^{[ 17 ] [ 18 ]} Intel afirma una mejora de rendimiento de hasta un 30 % en comparación con un Pentium  4 idéntico, sin multihilo simultáneo . Tom's Hardware afirma: "En algunos casos, un P4 que funciona a 3,0  GHz con HT activado puede incluso superar a un P4 que funciona a 3,6  GHz con HT desactivado". ^{[ 19 ]} Intel también afirma mejoras de rendimiento significativas con un procesador Pentium 4 habilitado para hyper-threading  en algunos algoritmos de inteligencia artificial.

En general, el historial de rendimiento de hyper-threading fue mixto al principio. Como señala un comentario sobre computación de alto rendimiento de noviembre de 2002: ^{[ 20 ]}

Hyper-Threading puede mejorar el rendimiento de algunas aplicaciones MPI , pero no de todas. Dependiendo de la configuración del clúster y, sobre todo, de la naturaleza de la aplicación que se ejecuta en él, las mejoras de rendimiento pueden variar o incluso ser negativas. El siguiente paso consiste en utilizar herramientas de rendimiento para comprender qué áreas contribuyen a las mejoras de rendimiento y cuáles a su degradación.

Como resultado, las mejoras de rendimiento dependen mucho de la aplicación; ^{[ 21 ]} sin embargo, al ejecutar dos programas que requieren la atención completa del procesador, puede parecer que uno o ambos programas se ralentizan ligeramente cuando se activa la tecnología Hyper-Threading. ^{[ 22 ]} Esto se debe a que el sistema de repetición del Pentium  4 ocupa valiosos recursos de ejecución, igualando los recursos del procesador entre los dos programas, lo que añade una cantidad variable de tiempo de ejecución. Los  procesadores Pentium 4 "Prescott" y Xeon "Nocona" recibieron una cola de repetición que reduce el tiempo de ejecución necesario para el sistema de repetición y supera por completo la penalización de rendimiento. ^{[ 23 ]}

Según un análisis de Intel de noviembre de 2009, los impactos en el rendimiento de hyper-threading resultan en un aumento de la latencia general en caso de que la ejecución de hilos no genere ganancias significativas en el rendimiento general, que varían ^{[ 21 ]} según la aplicación. En otras palabras, la latencia de procesamiento general aumenta significativamente debido a hyper-threading, y los efectos negativos se reducen a medida que hay más hilos simultáneos que pueden utilizar eficazmente la utilización adicional de recursos de hardware que proporciona hyper-threading. ^{[ 24 ]} Un análisis de rendimiento similar está disponible para los efectos de hyper-threading cuando se utiliza para manejar tareas relacionadas con la gestión del tráfico de red, como para procesar las solicitudes de interrupción generadas por los controladores de interfaz de red (NIC). ^{[ 25 ]} Otro artículo afirma que no hay mejoras de rendimiento cuando hyper-threading se utiliza para el manejo de interrupciones. ^{[ 26 ]}

Cuando se lanzaron los primeros procesadores HT, muchos sistemas operativos no estaban optimizados para la tecnología hyper-threading (por ejemplo, Windows 2000 y Linux anterior a la versión 2.4). ^{[ 27 ]}

En 2006, se criticó el hyper-threading por su ineficiencia energética. ^{[ 28 ]} Por ejemplo, ARM (una empresa especializada en el diseño de CPU de bajo consumo) afirmó que el multihilo simultáneo puede consumir hasta un 46 % más de energía que los diseños de doble núcleo convencionales. Además, alegaron que SMT aumenta el saturamiento de la caché en un 42 %, mientras que el doble núcleo produce una disminución del 37 %. ^{[ 29 ]}

En 2010, ARM dijo que podría incluir multihilo simultáneo en sus futuros chips; ^{[ 30 ]} sin embargo, esto fue rechazado en favor de su diseño de 64 bits de 2012. ^{[ 31 ]} ARM produjo núcleos SMT en 2018. ^{[ 32 ]}

En 2013, Intel abandonó SMT en favor de la ejecución fuera de orden para sus núcleos de procesador Silvermont , ya que descubrieron que esto proporcionaba un mejor rendimiento con una mayor eficiencia energética que un menor número de núcleos con SMT. ^{[ 33 ]}

En 2017, se reveló que los procesadores Skylake y Kaby Lake de Intel tenían un error en su implementación de hyper-threading que podía causar pérdida de datos. ^{[ 34 ]} Posteriormente se publicaron actualizaciones de microcódigo para solucionar el problema. ^{[ 35 ] [ 36 ] [ 37 ]}

En 2019, con Coffee Lake , Intel dejó temporalmente de incluir hyper-threading en los procesadores de escritorio Core i7 convencionales, excepto en los Core i9 de gama alta o las CPU Pentium Gold. ^{[ 38 ]} También comenzó a recomendar deshabilitar hyper-threading, ya que se revelaron nuevos ataques de vulnerabilidad de CPU que podían mitigarse deshabilitando HT. ^{[ 39 ]}

En mayo de 2005, Colin Percival demostró que un hilo malicioso en un Pentium 4 puede usar un ataque de canal lateral  basado en el tiempo para monitorear los patrones de acceso a la memoria de otro hilo con el que comparte una caché, lo que permite el robo de información criptográfica. En realidad, esto no es un ataque de tiempo , ya que el hilo malicioso mide el tiempo de su propia ejecución. Las posibles soluciones a esto incluyen que el procesador cambie su estrategia de desalojo de caché o que el sistema operativo impida la ejecución simultánea, en el mismo núcleo físico, de hilos con diferentes privilegios. ^{[ 40 ]} En 2018, el sistema operativo OpenBSD deshabilitó hyper-threading "para evitar posibles fugas de datos de aplicaciones a otro software" causadas por las vulnerabilidades Foreshadow/L1TF . ^{[ 41 ] [ 42 ]} En 2019, un conjunto de vulnerabilidades llevó a los expertos en seguridad a recomendar la deshabilitación de hyper-threading en todos los dispositivos. ^{[ 43 ]}

• Procesador de barril
• Multitarea informática
• Procesador multinúcleo

• Intel presenta un innovador diseño de procesador , comunicado de prensa de agosto de 2001.
• Intel: descripción general de alto nivel de Hyper-threading
• Hyper-threading en la revista MSDN
• Artículo introductorio de Ars Technica
• Patente estadounidense número 4,847,755
• Merom, Conroe y Woodcrest pierden HyperThreading
• ZDnet: Los desarrolladores afirman que Hyperthreading perjudica el rendimiento de los servidores.
• ARM no es partidario de HyperThreading : describe los problemas de las soluciones SMT.
• El impacto de Hyper-Threading en la utilización de los recursos del procesador en aplicaciones de producción.