Libratus es un programa informático de inteligencia artificial diseñado para jugar al póker , específicamente al Texas hold 'em sin límite en partidas mano a mano . [ 1 ] Los creadores de Libratus pretenden que sea generalizable a otras aplicaciones no específicas del póker. Fue desarrollado en la Universidad Carnegie Mellon de Pittsburgh.
Fondo
Aunque Libratus fue escrito desde cero, es el sucesor nominal de Claudico . Al igual que su predecesor, su nombre es una expresión latina que significa "equilibrado".
Libratus se construyó con más de 15 millones de horas de computación en comparación con los 2-3 millones de Claudico. Los cálculos se llevaron a cabo en la nueva supercomputadora 'Bridges' del Centro de Supercomputación de Pittsburgh . Según uno de los creadores de Libratus, el profesor Tuomas Sandholm, Libratus no tiene una estrategia fija incorporada, sino un algoritmo que calcula la estrategia. La técnica involucrada es una nueva variante de minimización de arrepentimiento contrafactual , [ 2 ] concretamente el método CFR+ introducido en 2014 por Oskari Tammelin. [ 3 ] Además de CFR+, Libratus utilizó una nueva técnica que Sandholm y su estudiante de doctorado, Noam Brown, desarrollaron para el problema de la resolución de finales. Su nuevo método elimina el estándar de facto anterior en la programación de póker, llamado "mapeo de acciones".
Simultáneamente con el desarrollo de Libratus, un equipo internacional de la Universidad Carolina , la Universidad Técnica Checa y la Universidad de Alberta desarrolló DeepStack , que en diciembre de 2016 se convirtió en el primer programa informático en derrotar a jugadores profesionales de póker en Texas hold 'em sin límite cara a cara. [ 4 ] Si bien ambos sistemas utilizaron la minimización del arrepentimiento contrafactual, difirieron en sus enfoques: DeepStack empleó redes neuronales para evaluar los estados del juego, mientras que Libratus no utilizó redes neuronales para la evaluación de hojas.
Dado que Libratus solo juega contra otro jugador, ya sea humano o informático, se aplican las reglas especiales de "cara a cara" para el Texas hold 'em de dos jugadores.
Partido entre humanos e inteligencia artificial de 2017
Del 11 al 31 de enero de 2017, Libratus participó en un torneo ("Brains vs. Artificial Intelligence: Upping the Ante challenge") contra cuatro jugadores de póker humanos de primer nivel, [ 5 ] a saber, Jason Les, Dong Kim, Daniel McAulay y Jimmy Chou. Para obtener resultados con mayor significación estadística, se jugaron 120 000 manos, un aumento del 50 % en comparación con el torneo anterior en el que participó Claudico en 2015. Para gestionar el volumen adicional, la duración del torneo se amplió de 13 a 20 días.
Los cuatro jugadores se dividieron en dos subequipos de dos jugadores cada uno. Uno de los subequipos jugaba al aire libre, mientras que el otro se encontraba en una sala aparte, apodada «La Mazmorra», donde no se permitían teléfonos móviles ni otras comunicaciones externas. El subequipo de la Mazmorra recibía la misma secuencia de cartas que se repartía al aire libre, con la única diferencia de que los roles estaban invertidos: los jugadores humanos de la Mazmorra recibían las cartas que la IA recibía al aire libre y viceversa. Esta configuración tenía como objetivo anular el efecto de la suerte en las cartas.
El premio de 200 000 dólares se repartió exclusivamente entre los jugadores humanos. Cada jugador recibió un mínimo de 20 000 dólares, y el resto se distribuyó en función de su éxito al jugar contra la IA. Tal como se estipulaba en las reglas del torneo, la IA no recibió ningún premio, incluso si ganó el torneo contra el equipo humano.
Durante el torneo, Libratus compitió contra los jugadores durante el día. Por la noche, perfeccionó su estrategia analizando las partidas anteriores y los resultados del día, especialmente sus derrotas. De esta forma, pudo corregir continuamente las deficiencias que el equipo humano había descubierto en su exhaustivo análisis, lo que desencadenó una constante carrera armamentística entre los humanos y Libratus. Para la competición, utilizó otros 4 millones de horas de procesamiento en la supercomputadora Bridges.
Durante el torneo, hubo un mercado de apuestas activo entre los jugadores de póker sobre quién ganaría el torneo. Comenzó con 4:1 en contra del bot, pero en el octavo día se convirtió en un mercado de apuestas sobre qué humano perdería menos. [ 6 ] : 07:30 .
Fuerza de la IA
Libratus había estado liderando contra los jugadores humanos desde el primer día del torneo. El jugador Dong Kim comentó sobre la fuerza de la IA lo siguiente: "No me di cuenta de lo buena que era hasta hoy. Sentía que estaba jugando contra alguien que hacía trampa, como si pudiera ver mis cartas. No la estoy acusando de hacer trampa. Simplemente era así de buena". [ 7 ]
En el día 16 de la competición, Libratus superó por primera vez la barrera del millón de dólares. Al final de ese día, aventajaba al equipo humano por 1.194.402 dólares en fichas. Al finalizar la competición, Libratus aventajaba al equipo humano por 1.766.250 dólares, logrando así una victoria aplastante. Dado que la ciega grande en las partidas se fijó en 100 dólares, la tasa de victorias de Libratus equivale a 14,7 ciegas grandes por cada 100 manos. Esta tasa de victorias se considera excepcionalmente alta en el póker y tiene una gran relevancia estadística. [ 8 ]
A modo de comparación, DeepStack logró una tasa de victorias de 49 ciegas grandes por cada 100 manos en su estudio contra 11 profesionales a lo largo de 44.000 manos, aunque las diferentes condiciones de prueba (número de manos, niveles de habilidad de los oponentes y formato del torneo) dificultan las comparaciones directas.
De los jugadores humanos, Dong Kim quedó primero, MacAulay segundo, Jimmy Chou tercero y Jason Les cuarto.
El bot tiene un estilo de apuestas poco convencional, ya que en situaciones específicas apostaba 20.000 dólares incluso cuando solo había 100 dólares en el bote. Tras su victoria, esta estrategia fue analizada y adoptada por la comunidad del póker. [ 6 ] : 55:25
Otras posibles aplicaciones
Aunque la primera aplicación de Libratus fue jugar al póker, sus diseñadores tenían en mente una misión mucho más amplia para la IA. [ 9 ] Los investigadores diseñaron la IA para que pudiera aprender cualquier juego o situación en la que la información disponible sea incompleta y los "oponentes" puedan estar ocultando información o incluso recurriendo al engaño. Por ello, Sandholm y sus colegas proponen aplicar el sistema también a otros problemas del mundo real, como la ciberseguridad, las negociaciones comerciales o la planificación médica. [ 10 ]
Véase también
Referencias
- ↑ Brown, Noam; Sandholm, Tuomas (26 de enero de 2018). "Inteligencia artificial sobrehumana para póker heads-up sin límite: Libratus vence a los mejores profesionales" . Science . 359 (6374): 418–424 . Bibcode : 2018Sci...359..418B . doi : 10.1126/science.aao1733 . ISSN 0036-8075 .
- ↑ Hsu, Jeremy (10 de enero de 2017). "Conozca la nueva IA que desafía a los profesionales del póker humanos" . IEEE Spectrum . Recuperado el 10 de enero de 2022 .
- ↑ Brown, Noam; Sandholm, Tuomas (2017). "Resolución segura y anidada de finales para juegos con información imperfecta" (PDF) . Actas del taller de la AAAI sobre póker informático y juegos con información imperfecta .
- ↑ Moravcik, Matej; Schmid, Martin; Burch, Neil; Lisy, Viliam; Morrill, Dustin; Bard, Nolan; Davis, Trevor; Waugh, Kevin; Johanson, Michael; Bowling, Michael (2017). "Deepstack: Inteligencia artificial de nivel experto en póker heads-up sin límite". Science . 356 (6337): 508– 513. arXiv : 1701.01724 . doi : 10.1126/science.aam6960 . PMID 28254783 .
- ↑ Spice, Byron; Allen, Garrett (4 de enero de 2017). "Subiendo la apuesta: los mejores profesionales del póker se enfrentan a la inteligencia artificial" . Universidad Carnegie Mellon . Recuperado el 12 de enero de 2017 .
- 1 2 Noam, Brown (17 de septiembre de 2024). Parábolas sobre el poder de la planificación en IA: del póker a la diplomacia: Noam Brown (OpenAI) (vídeo) . Recuperado el 24 de septiembre de 2024 a través de YouTube.Conferencia en la Escuela Paul G. Allen el jueves 23 de mayo de 2024 a las 15:30.
- ↑ Metz, Cade (24 de enero de 2017). "La inteligencia artificial está a punto de conquistar el póker, pero no sin ayuda humana" . Wired . Consultado el 24 de enero de 2017 .
- ↑ "Libratus Poker AI vence a los humanos y gana 1,76 millones de dólares; ¿Se acerca el final?" . PokerListings . 30 de enero de 2017 . Consultado el 16 de marzo de 2018 .
- ↑ Knight, Will (23 de enero de 2017). "Por qué es tan importante que la IA sepa farolear en el póker" . MIT Technology Review .
- ↑ "La inteligencia artificial gana 800.000 dólares contra 4 maestros del póker" . Ingeniería interesante . 27 de enero de 2017.
Enlaces externos
- Cerebros versus Inteligencia Artificial Archivado el 3 de febrero de 2016 en el sitio web oficial de Wayback Machine en el Rivers Casino
- Jugadores de póker por computadora
- Software de la Universidad Carnegie Mellon