Inteligencia artificial amigable

La inteligencia artificial amigable ( IA amigable o IAAM ) es una inteligencia artificial general (IAG) hipotética que tendría un efecto positivo (benigno) en la humanidad o, al menos, se alinearía con los intereses humanos, como el fomento del mejoramiento de la especie humana. Forma parte de la ética de la inteligencia artificial y está estrechamente relacionada con la ética de las máquinas . Mientras que la ética de las máquinas se ocupa de cómo debería comportarse un agente de inteligencia artificial , la investigación sobre inteligencia artificial amigable se centra en cómo lograr este comportamiento en la práctica y garantizar que esté adecuadamente limitado.

El término fue acuñado por Eliezer Yudkowsky , ^{[ 1 ]} conocido por popularizar la idea, ^{[ 2 ] [ 3 ]} para hablar de agentes artificiales superinteligentes que implementan de manera confiable los valores humanos. El libro de texto líder sobre inteligencia artificial de Stuart J. Russell y Peter Norvig , Inteligencia artificial: un enfoque moderno , describe la idea: ^{[ 2 ]}

Yudkowsky (2008) profundiza en el diseño de una IA amigable . Afirma que la amabilidad (el deseo de no dañar a los humanos) debe integrarse desde el principio, pero que los diseñadores deben reconocer que sus propios diseños pueden ser defectuosos y que el robot aprenderá y evolucionará con el tiempo. Por lo tanto, el desafío radica en el diseño de mecanismos : definir un mecanismo para la evolución de los sistemas de IA bajo un sistema de controles y equilibrios, y dotar a estos sistemas de funciones de utilidad que les permitan mantener su carácter amigable ante dichos cambios.

En este contexto, el término «amigable» se utiliza como terminología técnica y se refiere a agentes seguros y útiles, no necesariamente a aquellos que son «amigables» en el sentido coloquial. El concepto se invoca principalmente en el contexto de debates sobre agentes artificiales que se auto-mejoran recursivamente y que experimentan un rápido crecimiento en inteligencia , dado que esta tecnología hipotética tendría un impacto grande, rápido y difícil de controlar en la sociedad humana. ^{[ 4 ]}

Las raíces de la preocupación por la inteligencia artificial son muy antiguas. Kevin LaGrandeur demostró que los peligros específicos de la IA se pueden observar en la literatura antigua sobre sirvientes humanoides artificiales como el golem o los protorrobots de Gerbert de Aurillac y Roger Bacon . En esos relatos, la inteligencia y el poder extremos de estas creaciones humanoides chocan con su condición de esclavos (que por naturaleza se consideran infrahumanos) y provocan conflictos desastrosos. ^{[ 5 ]} En 1942, estos temas impulsaron a Isaac Asimov a crear las " Tres Leyes de la Robótica ", principios integrados en todos los robots de su ficción, destinados a evitar que se rebelaran contra sus creadores o les causaran daño. ^{[ 6 ]}

En la actualidad, a medida que la perspectiva de una IA superinteligente se acerca, el filósofo Nick Bostrom ha afirmado que los sistemas de IA superinteligente con objetivos que no se alinean con la ética humana son intrínsecamente peligrosos a menos que se tomen medidas extremas para garantizar la seguridad de la humanidad. Lo expresó de la siguiente manera:

Básicamente, debemos asumir que una "superinteligencia" sería capaz de alcanzar cualquier objetivo que se proponga. Por lo tanto, es sumamente importante que los objetivos que le atribuyamos, así como todo su sistema de motivación, sean compatibles con los intereses humanos.

En 2008, Eliezer Yudkowsky abogó por la creación de una "IA amigable" para mitigar el riesgo existencial derivado de la inteligencia artificial avanzada . Explica: "La IA no te odia ni te ama, sino que estás hecho de átomos que puede usar para otra cosa". ^{[ 7 ]}

Steve Omohundro afirma que un sistema de IA suficientemente avanzado, a menos que se contrarreste explícitamente, exhibirá una serie de "impulsos" básicos , como la adquisición de recursos, la autopreservación y la mejora continua, debido a la naturaleza intrínseca de cualquier sistema orientado a objetivos, y que estos impulsos, "sin precauciones especiales", harán que la IA exhiba un comportamiento indeseado. ^{[ 8 ] [ 9 ]}

Alexander Wissner-Gross afirma que las IA impulsadas a maximizar su libertad de acción futura (o entropía de la ruta causal) podrían considerarse amigables si su horizonte de planificación es más largo que un cierto umbral, y no amigables si su horizonte de planificación es más corto que ese umbral. ^{[ 10 ] [ 11 ]}

Luke Muehlhauser, en un artículo para el Machine Intelligence Research Institute , recomienda que los investigadores de ética de las máquinas adopten lo que Bruce Schneier ha denominado la «mentalidad de seguridad»: en lugar de pensar en cómo funcionará un sistema, imaginen cómo podría fallar. Por ejemplo, sugiere que incluso una IA que solo realiza predicciones precisas y se comunica mediante una interfaz de texto podría causar daños no deseados. ^{[ 12 ]}

En 2014, Luke Muehlhauser y Nick Bostrom subrayaron la necesidad de una «IA amigable»; ^{[ 13 ]} sin embargo, las dificultades para diseñar una superinteligencia «amigable», por ejemplo, mediante la programación de un pensamiento moral contrafactual, son considerables. ^{[ 14 ] [ 15 ]}

Yudkowsky propone el modelo de Voluntad Extrapolada Coherente (VEC). Según él, nuestra volición extrapolada coherente es «nuestro deseo de saber más, pensar más rápido, ser más como deseábamos ser, haber crecido juntos durante más tiempo; donde la extrapolación converge en lugar de divergir, donde nuestros deseos coinciden en lugar de interferir; extrapolados como deseamos que se extrapole, interpretados como deseamos que se interprete». ^{[ 16 ]}

En lugar de que una IA amigable sea diseñada directamente por programadores humanos, será diseñada por una "IA semilla" programada para primero estudiar la naturaleza humana y luego producir la IA que la humanidad desearía, dado el tiempo y la comprensión suficientes, para llegar a una respuesta satisfactoria. ^{[ 16 ]} El recurso a una naturaleza humana objetiva a través de la contingencia (quizás expresada, para fines matemáticos, en forma de una función de utilidad u otro formalismo de la teoría de la decisión ), como proporcionar el criterio último de "Amabilidad", es una respuesta al problema metaético de definir una moralidad objetiva ; la voluntad extrapolada pretende ser lo que la humanidad desearía objetivamente, considerando todas las cosas, pero solo puede definirse en relación con las cualidades psicológicas y cognitivas de la humanidad actual, no extrapolada.

Steve Omohundro ha propuesto un enfoque de "andamio" para la seguridad de la IA , en el que una generación de IA demostrablemente segura ayuda a construir la siguiente generación demostrablemente segura. ^{[ 17 ]}

Seth Baum sostiene que el desarrollo de inteligencia artificial segura y socialmente beneficiosa, o inteligencia artificial general, depende de la psicología social de las comunidades de investigación en IA y, por lo tanto, puede verse limitado por medidas extrínsecas e impulsado por medidas intrínsecas. Las motivaciones intrínsecas pueden reforzarse cuando los mensajes resuenan entre los desarrolladores de IA; Baum argumenta que, por el contrario, «los mensajes existentes sobre la IA beneficiosa no siempre están bien formulados». Baum aboga por «relaciones de cooperación y una visión positiva de los investigadores de IA» y advierte contra la caracterización de los investigadores de IA como personas que «no desean desarrollar diseños beneficiosos». ^{[ 18 ]}

En su libro Human Compatible , el investigador de IA Stuart J. Russell enumera tres principios para guiar el desarrollo de máquinas beneficiosas. Enfatiza que estos principios no deben codificarse explícitamente en las máquinas, sino que están destinados a los desarrolladores humanos. Los principios son los siguientes: ^{[ 19 ] : 173}

1. El único objetivo de la máquina es maximizar la satisfacción de las preferencias humanas.
2. Inicialmente, la máquina no está segura de cuáles son esas preferencias.
3. La fuente definitiva de información sobre las preferencias humanas es el comportamiento humano.

Las "preferencias" a las que se refiere Russell "son omnicomprensivas; abarcan todo lo que podría importarte, arbitrariamente lejos en el futuro". ^{[ 19 ] : 173} De manera similar, el "comportamiento" incluye cualquier elección entre opciones, ^{[ 19 ] : 177} y la incertidumbre es tal que se debe asignar alguna probabilidad, que puede ser bastante pequeña, a cada preferencia humana lógicamente posible. ^{[ 19 ] : 201}

James Barrat , autor de Our Final Invention , sugirió que «debe crearse una alianza público-privada para reunir a los creadores de IA y compartir ideas sobre seguridad; algo similar al Organismo Internacional de Energía Atómica , pero en colaboración con las empresas». Insta a los investigadores de IA a convocar una reunión similar a la Conferencia de Asilomar sobre ADN Recombinante , en la que se debatieron los riesgos de la biotecnología . ^{[ 17 ]}

John McGinnis anima a los gobiernos a acelerar la investigación en IA amigable. Dado que los objetivos de la IA amigable no son necesariamente evidentes, sugiere un modelo similar al de los Institutos Nacionales de Salud , donde «paneles de revisión por pares de científicos informáticos y cognitivos examinarían los proyectos y seleccionarían aquellos diseñados para impulsar la IA y garantizar que dichos avances vayan acompañados de las salvaguardias adecuadas». McGinnis considera que la revisión por pares es mejor «que la regulación para abordar cuestiones técnicas que no se pueden resolver mediante mandatos burocráticos». McGinnis señala que su propuesta contrasta con la del Instituto de Investigación de Inteligencia Artificial , que generalmente busca evitar la participación del gobierno en la IA amigable. ^{[ 20 ]}

Algunos críticos creen que tanto la IA a nivel humano como la superinteligencia son improbables y que, por lo tanto, la IA amigable es improbable. En un artículo para The Guardian , Alan Winfield compara la inteligencia artificial a nivel humano con los viajes más rápidos que la luz en términos de dificultad y afirma que, si bien debemos ser "cautelosos y estar preparados" dados los riesgos involucrados, "no debemos obsesionarnos" con los riesgos de la superinteligencia. ^{[ 21 ]} Por otro lado, Boyles y Joaquín argumentan que la propuesta de Luke Muehlhauser y Nick Bostrom de crear IA amigables parece desalentadora. Esto se debe a que Muehlhauser y Bostrom parecen sostener la idea de que las máquinas inteligentes podrían programarse para pensar contrafactualmente sobre los valores morales que habrían tenido los seres humanos. ^{[ 13 ]} En un artículo en AI & Society , Boyles y Joaquin sostienen que tales IA no serían tan amigables considerando lo siguiente: la cantidad infinita de condiciones contrafactuales antecedentes que tendrían que programarse en una máquina, la dificultad de obtener el conjunto de valores morales, es decir, aquellos que son más ideales que los que poseen los seres humanos en la actualidad, y la aparente desconexión entre los antecedentes contrafactuales y el valor ideal consecuente. ^{[ 14 ]}

Algunos filósofos afirman que cualquier agente verdaderamente "racional", ya sea artificial o humano, será naturalmente benevolente; desde esta perspectiva, las salvaguardas deliberadas diseñadas para producir una IA amigable podrían ser innecesarias o incluso perjudiciales. ^{[ 22 ]} Otros críticos cuestionan si la inteligencia artificial puede ser amigable. Adam Keiper y Ari N. Schulman, editores de la revista tecnológica The New Atlantis , afirman que será imposible garantizar un comportamiento "amigable" en las IA porque los problemas de complejidad ética no cederán ante los avances de software ni los aumentos en la capacidad de procesamiento. Escriben que los criterios en los que se basan las teorías de la IA amigable funcionan "solo cuando se tiene no solo una gran capacidad de predicción sobre la probabilidad de innumerables resultados posibles, sino también certeza y consenso sobre cómo se valoran los diferentes resultados". ^{[ 23 ]}

El funcionamiento interno de los sistemas avanzados de IA puede ser complejo y difícil de interpretar, lo que genera inquietudes sobre la transparencia y la rendición de cuentas. ^{[ 24 ]}

• Yudkowsky, E. (2008). La inteligencia artificial como factor positivo y negativo en el riesgo global . En Riesgos catastróficos globales , Oxford University Press. Analiza la inteligencia artificial desde la perspectiva del riesgo existencial . En particular, las secciones 1 a 4 proporcionan antecedentes a la definición de IA amigable en la sección 5. La sección 6 presenta dos clases de errores (técnicos y filosóficos) que podrían conducir a la creación accidental de IA no amigables. Las secciones 7 a 13 analizan otros temas relacionados.
• Omohundro, S. (2008). Los impulsores básicos de la IA aparecieron en AGI-08 – Actas de la Primera Conferencia sobre Inteligencia Artificial General.
• Mason, C. (2008). La IA a nivel humano requiere inteligencia compasiva. Archivado el 9 de enero de 2022 en Wayback Machine. Aparece en el taller AAAI 2008 sobre metarrazonamiento: pensar sobre el pensamiento.
• Froding, B. y Peterson, M. (2021). Ética de la IA amigable y tecnología de la información, vol. 23, págs. 207–214.

• Cuestiones éticas en la inteligencia artificial avanzada , por Nick Bostrom
• ¿Qué es la IA amigable? — Una breve descripción de la IA amigable por parte del Instituto de Investigación de Inteligencia Artificial.
• Creación de IA amigable 1.0: Análisis y diseño de arquitecturas de objetivos benevolentes : una descripción casi completa del libro del MIRI.
• Crítica de las Directrices MIRI sobre IA amigable — por Bill Hibbard
• Comentario sobre las directrices de MIRI sobre IA amigable — por Peter Voss.
• El problema de la inteligencia artificial "amigable" : sobre los motivos y la imposibilidad de la IAAM; por Adam Keiper y Ari N. Schulman.