IA causal

La IA causal es una técnica de inteligencia artificial que construye un modelo causal y, por lo tanto, puede realizar inferencias utilizando la causalidad en lugar de solo la correlación. Un uso práctico de la IA causal es que las organizaciones expliquen la toma de decisiones y las causas de una decisión. ^{[ 1 ] [ 2 ]}

Los sistemas basados ​​en IA causal, al identificar la red subyacente de causalidad para un comportamiento o evento, proporcionan información que los modelos de IA puramente predictivos podrían no extraer de los datos históricos. Un análisis de causalidad puede utilizarse para complementar las decisiones humanas en situaciones donde es necesario comprender las causas detrás de un resultado, como cuantificar el impacto de diferentes intervenciones, decisiones políticas o realizar planificación de escenarios. ^{[ 3 ] [ 4 ]} Un artículo de 2024 de Google DeepMind demostró matemáticamente que "Cualquier agente capaz de adaptarse a un conjunto suficientemente grande de cambios de distribución debe haber aprendido un modelo causal". ^{[ 5 ]} El artículo ofrece la interpretación de que aprender a generalizar más allá del conjunto de entrenamiento original requiere aprender un modelo causal, concluyendo que la IA causal es necesaria para la inteligencia artificial general .

El concepto de IA causal y los límites del aprendizaje automático fueron planteados por Judea Pearl , científico informático y filósofo ganador del Premio Turing , en su libro de 2018 , *El libro del porqué : La nueva ciencia de la causa y el efecto*. Pearl afirmó: «La falta de comprensión de las relaciones causales por parte de las máquinas es quizás el mayor obstáculo para dotarlas de inteligencia a nivel humano». ^{[ 6 ] [ 7 ]}

En 2020, la Universidad de Columbia estableció un Laboratorio de IA Causal bajo la dirección de Elias Bareinboim . La investigación del profesor Bareinboim se centra en la inferencia causal y contrafactual y sus aplicaciones a campos basados ​​en datos en las ciencias sociales y de la salud, así como en la inteligencia artificial y el aprendizaje automático. ^{[ 8 ]} La firma de investigación y consultoría tecnológica Gartner incluyó por primera vez la IA causal en su informe Hype Cycle de 2022 , citándola como una de las cinco tecnologías críticas en la automatización acelerada de la IA. ^{[ 9 ] [ 10 ]}

La IA causal está estrechamente relacionada con campos como la inferencia causal, la IA explicable y el razonamiento causal, pero es distinta de ellos. Mientras que la inferencia causal se centra en estimar las relaciones causa-efecto (a menudo a partir de datos observacionales), la IA causal enfatiza la integración de esos modelos causales en sistemas de IA para la predicción, la planificación y la adaptación. ^{[ 11 ]}