Ética de los robots

La ética robótica , a veces conocida como « robótica », se ocupa de los problemas éticos que surgen con los robots, como si representan una amenaza para los humanos a corto o largo plazo, si algunos usos de los robots son problemáticos (como en la atención médica o como « robots asesinos » en la guerra) y cómo deberían diseñarse los robots para que actúen «éticamente» (esta última preocupación también se denomina ética de las máquinas ). Alternativamente, la robótica se refiere específicamente a la ética del comportamiento humano hacia los robots, a medida que estos se vuelven cada vez más avanzados. ^{[ 1 ]}

La ética robótica es un subcampo de la ética de la tecnología . Está estrechamente relacionada con cuestiones legales y socioeconómicas. Los debates académicos serios sobre la ética robótica comenzaron alrededor del año 2000 e involucran a varias disciplinas, principalmente robótica , informática , inteligencia artificial , filosofía , ética , teología , biología , fisiología , ciencias cognitivas , neurociencias , derecho , sociología , psicología y diseño industrial . ^{[ 2 ]}

Una de las primeras publicaciones que abordó directamente y sentó las bases de la ética robótica fue « Runaround », un relato corto de ciencia ficción escrito por Isaac Asimov en 1942, que presentaba sus conocidas Tres Leyes de la Robótica . Asimov modificó continuamente estas tres leyes, y finalmente añadió una cuarta ley —o «ley cero»— que precede a las tres primeras, en el contexto de sus obras de ciencia ficción. El término «robótica» fue probablemente acuñado por Gianmarco Veruggio. ^{[ 3 ]}

La roboética también fue destacada en 2004 con el Primer Simposio Internacional sobre Roboética. ^{[ 4 ]} En conversaciones con estudiantes y no especialistas, Gianmarco Veruggio y Fiorella Operto opinaron que un buen debate podría impulsar a las personas a participar activamente en la formación de la opinión pública, hacerles comprender los usos positivos de la nueva tecnología y prevenir su abuso. La antropóloga Daniela Cerqui identificó tres posiciones éticas principales que surgieron de los dos días de debate: quienes ven la robótica como puramente técnica y se eximen de responsabilidad ética, quienes se interesan en cuestiones éticas a corto plazo (como el cumplimiento de las convenciones existentes) y quienes se interesan en cuestiones éticas a largo plazo (incluida la brecha digital ). ^{[ 5 ]}

Otros eventos importantes incluyen:

• 2004: la Declaración Mundial de Robots de Fukuoka . ^{[ 7 ]}
• 2017: En la Cumbre de Inversión Futura celebrada en Riad , un robot llamado Sophia (y al que se hace referencia con pronombres femeninos) recibe la ciudadanía saudí , convirtiéndose en el primer robot en tener una nacionalidad. ^{[ 8 ] [ 6 ]} Esto genera controversia debido a la ambigüedad legal, por ejemplo, sobre si Sophia puede votar o casarse, o si un apagado deliberado del sistema debe considerarse asesinato. Además, los medios de comunicación lo contrastaron con los derechos limitados de las mujeres saudíes. ^{[ 9 ] [ 10 ]}
• 2017: El Parlamento Europeo aprobó una resolución dirigida a la Comisión Europea relativa a las normas de derecho civil sobre robótica. ^{[ 11 ]}

La científica informática Virginia Dignum señaló en un número de marzo de 2018 de Ethics and Information Technology que la actitud general de la sociedad hacia la inteligencia artificial (IA) ha cambiado, en la era moderna, pasando de considerarla una herramienta a verla como un "compañero de equipo" inteligente. En el mismo artículo, evaluó que, con respecto a la IA, los pensadores éticos tienen tres objetivos, cada uno de los cuales, según argumenta, puede lograrse en la era moderna con una reflexión e implementación cuidadosas. ^{[ 12 ] [ 13 ] [ 14 ] [ 15 ] [ 16 ]} Los tres objetivos éticos son los siguientes:

• Ética por diseño (la integración técnica/algorítmica de las capacidades de razonamiento ético como parte del comportamiento de los sistemas autónomos artificiales, véase ética de las máquinas );
• Ética en el diseño (los métodos regulatorios y de ingeniería que respaldan el análisis y la evaluación de las implicaciones éticas de los sistemas de IA a medida que estos se integran o reemplazan las estructuras sociales tradicionales); y
• Ética para el diseño (los códigos de conducta, estándares y procesos de certificación que garantizan la integridad de los desarrolladores y usuarios al investigar, diseñar, construir, emplear y administrar sistemas de inteligencia artificial, véase el §  Ley más adelante). ^{[ 17 ]}

La roboética, como ciencia o tema filosófico, ha sido un tema recurrente en la literatura y el cine de ciencia ficción. Una película que podría considerarse un referente en la cultura popular y que retrata el uso distópico de la IA robótica en el futuro es Matrix , donde humanos e IA conscientes luchan por el control del planeta Tierra, lo que resulta en la destrucción de la mayor parte de la humanidad. Animatrix , una película de animación basada en Matrix , se centra en los posibles problemas éticos e inseguridades entre humanos y robots. La película está dividida en cortometrajes. Estos cortometrajes también llevan nombres de relatos de Isaac Asimov.

Otra faceta de la roboética se centra específicamente en el trato que los humanos dan a los robots, y se ha explorado en numerosas películas y series de televisión. Un ejemplo de ello es Star Trek: La Nueva Generación , que tiene a un androide humanoide, llamado Data , como uno de sus personajes principales. En general, se le confía trabajo de misión crítica, pero su capacidad para integrarse con los demás seres vivos suele ponerse en duda. ^{[ 18 ]} Más recientemente, la película Ex Machina y la serie de televisión Westworld han abordado estas cuestiones éticas de forma bastante directa al representar robots hiperrealistas que los humanos tratan como mercancías intrascendentes. ^{[ 19 ] [ 20 ]} Las cuestiones que rodean el trato a los seres diseñados también han sido un componente clave de Blade Runner durante más de 50 años. ^{[ 21 ]} Películas como Her incluso han destilado aún más la relación humana con los robots al eliminar el aspecto físico y centrarse en las emociones.

Aunque no forma parte de la roboética propiamente dicha , el comportamiento ético de los robots también ha sido un tema recurrente en la cultura popular. La saga Terminator se centra en robots controlados por un programa de IA consciente que no tiene límites a la hora de eliminar a sus enemigos. Esta saga comparte el mismo arquetipo que Matrix , donde los robots toman el control. Otro ejemplo famoso de IA con moralidad defectuosa en la cultura popular es HAL 9000 en la saga 2001: Una odisea del espacio , donde HAL (una computadora con capacidades avanzadas de IA que supervisa y asiste a los humanos en una nave espacial) mata a los humanos a bordo para asegurar el éxito de la misión asignada después de que su propia vida se ve amenazada. ^{[ 22 ]}

Los sistemas de armas autónomas letales (LAWS), a menudo denominados "robots asesinos", son teóricamente capaces de apuntar y disparar sin supervisión ni interferencia humana. En 2014, la Convención sobre Armas Convencionales (CCW) celebró dos reuniones. La primera fue la Reunión de Expertos sobre Sistemas de Armas Autónomas Letales. Esta reunión trató sobre el mandato especial relativo a los LAWS y suscitó un intenso debate. ^{[ 23 ]} Las delegaciones nacionales y numerosas organizaciones no gubernamentales (ONG) expresaron sus opiniones al respecto.

Numerosas ONG y ciertos estados, como Pakistán y Cuba, abogan por la prohibición preventiva de las máquinas de guerra electrónica. Han propuesto argumentos basados ​​en razonamientos deontológicos y consecuencialistas . Desde la perspectiva deontológica, filósofos como Peter Asaro y Robert Sparrow, la mayoría de las ONG y el Vaticano sostienen que otorgar demasiados derechos a las máquinas viola la dignidad humana y que las personas tienen el derecho a no ser asesinadas por una máquina. Para respaldar su postura, citan repetidamente la Cláusula Martens .

Al final de la reunión, la objeción consecuencialista más importante fue que LAWS no podría respetar el derecho internacional humanitario (DIH), como creen las ONG, muchos investigadores y varios estados ( Pakistán , Austria , Egipto , México ).

Según el Comité Internacional de la Cruz Roja (CICR), «no cabe duda de que el desarrollo y el uso de sistemas de armas autónomas en conflictos armados se rigen por el derecho internacional humanitario». ^{[ 24 ]} Los Estados lo reconocen: quienes participaron en la primera Reunión de Expertos de la ONU en mayo de 2014 reconocieron el respeto del DIH como condición esencial para la implementación de los sistemas de armas autónomas letales (LAWS). Con predicciones diversas, algunos Estados creen que los LAWS no podrán cumplir este criterio, mientras que otros subrayan la dificultad de juzgar en esta etapa sin conocer las capacidades futuras de las armas ( Japón , Australia ). Todos insistieron por igual en la verificación ex ante de la conformidad de los sistemas con el DIH antes de su puesta en servicio, en virtud del artículo del primer protocolo adicional a los Convenios de Ginebra .

En 2015, se lanzó la Campaña Contra los Robots Sexuales (CASR) para llamar la atención sobre la relación sexual de los humanos con las máquinas. La campaña afirma que los robots sexuales son potencialmente dañinos y contribuirán a las desigualdades en la sociedad, y que es necesario un enfoque organizado y una respuesta ética contra su desarrollo. ^{[ 26 ]}

En el artículo « ¿Deberíamos hacer campaña contra los robots sexuales?» , publicado por MIT Press , los investigadores señalaron algunas deficiencias en esta campaña y no apoyaron por completo la prohibición de los robots sexuales. En primer lugar, argumentaron que las afirmaciones específicas presentadas por la CASR eran «poco convincentes», en parte debido a la falta de claridad sobre los objetivos de la campaña y en parte debido a defectos sustanciales en las principales objeciones éticas planteadas por sus fundadores. En segundo lugar, argumentaron que sería muy difícil respaldar una campaña general contra los robots sexuales a menos que se adoptara una postura sumamente conservadora respecto a la ética sexual. Tomando como ejemplo la campaña para detener a los robots asesinos, consideraron que no existían propiedades intrínsecamente malas en los robots sexuales que dieran lugar a niveles de preocupación igualmente graves, siendo el daño causado por estos robots especulativo e indirecto. No obstante, el artículo reconoce que existen preocupaciones legítimas que pueden plantearse sobre el desarrollo de los robots sexuales. ^{[ 27 ]}

Ante los desafíos tecnológicos contemporáneos que surgen a medida que la sociedad avanza, un tema que requiere una reflexión profunda es la ética robótica en relación con el derecho. Los académicos han estado debatiendo sobre cómo un gobierno podría elaborar legislación que abarque la ética y el derecho robótico.

Dos académicos que se han planteado estas preguntas son Neil M. Richards, profesor de Derecho en la Facultad de Derecho de la Universidad de Washington , y William D. Smart, profesor asociado de Informática en la Escuela de Ingeniería McKelvey . En su artículo "¿Cómo debería el Derecho considerar a los robots?", presentan cuatro afirmaciones principales sobre la ética y el derecho de los robots. ^{[ 28 ]} La base de su argumento reside en la definición de robot como "agentes autónomos no biológicos que, a nuestro juicio, capturan la esencia de los desafíos regulatorios y tecnológicos que presentan los robots, y que podrían servir de base para la regulación". En segundo lugar, exploran las futuras capacidades avanzadas de los robots en un plazo aproximado de una década. Su tercera afirmación plantea una relación entre las cuestiones legales que experimentan la ética y el derecho de los robots y las experiencias legales del derecho cibernético. Esto significa que las leyes sobre ética de los robots pueden inspirarse en el derecho cibernético. La "lección" aprendida del derecho cibernético radica en la importancia de las metáforas con las que entendemos los problemas emergentes en tecnología. Esto se basa en que, si la metáfora es errónea, por ejemplo, es muy probable que la legislación que rodea el problema tecnológico emergente también lo sea. La cuarta afirmación que refutan es una metáfora que la pareja define como "La falacia androide". Refutan la falacia androide que afirma que los humanos y las entidades no biológicas son "iguales a las personas". ^{[ 28 ]}

Existe evidencia mixta sobre si las personas juzgan el comportamiento de los robots de manera similar a como lo hacen con los humanos. Algunas evidencias indican que las personas perciben el mal comportamiento de forma negativa y el buen comportamiento de forma positiva, independientemente de si el agente del comportamiento es un humano o un robot; sin embargo, los robots reciben menos reconocimiento por el buen comportamiento y más culpa por el mal comportamiento. ^{[ 29 ]} Otras evidencias sugieren que el comportamiento malévolo de los robots se considera moralmente más incorrecto que el comportamiento benevolente; el comportamiento malévolo de los robots se considera más intencional que el comportamiento benevolente. ^{[ 30 ]} En general, los juicios morales de las personas sobre robots y humanos se basan en las mismas justificaciones y conceptos, pero las personas tienen diferentes expectativas morales al juzgar a humanos y robots. ^{[ 31 ]} La investigación también ha encontrado que cuando las personas intentan interpretar y comprender cómo los robots deciden comportarse de una manera particular, pueden ver a los robots usando reglas generales (avanzar en beneficio propio, hacer lo correcto, beneficiar a los demás, hacer lo lógico y hacer lo normal). ^{[ 32 ]}

• Ética de la inteligencia artificial
• Plug & Pray - Película de 2010 de Jens Schanze 
• Unión de Científicos Preocupados – organización sin fines de lucro con sede en Estados Unidos 

• Levy, David (2007). Amor y sexo con robots . Harper. ISBN 978-0-06-135975-0.
• Richards, Neil M.; Smart, William D. (2013). "¿Cómo debería la ley considerar a los robots?" . En Calo, Ryan (ed.). Derecho robótico . doi : 10.4337/9781783476732 . ISBN 978-1-78347-673-2.
• Jeangène Vilmer, Jean-Baptiste (23 de marzo de 2015). "Ética de Terminator: ¿Deberíamos prohibir los" robots asesinos "?" . Política extranjera.
• Danaher, John; Earp, Brian D.; Sandberg, Anders (2017). "¿Deberíamos hacer campaña contra los robots sexuales?" . Sexo robótico: implicaciones sociales y éticas .
• Lin, Patrick; Abney, Keith; Bekey, George A. (2012). Ética de los robots: Implicaciones éticas y sociales de la robótica . MIT Press.
• Tzafestas, Spyros G. (2016). Roboética: Una visión general . Berlín: Springer. ISBN 978-3-319-21713-0.

• PhilPapers : la bibliografía estándar sobre roboética se encuentra en
• Grupo de Ética y Ciencias Emergentes
• Comité Técnico de Roboética del IEEE