Máquina moral

Moral Machine es una plataforma en línea, desarrollada por el grupo Scalable Cooperation de Iyad Rahwan en el Instituto Tecnológico de Massachusetts , que genera dilemas morales y recopila información sobre las decisiones que toman las personas entre dos resultados destructivos. ^{[ 1 ] [ 2 ]} La plataforma es idea de Iyad Rahwan y los psicólogos sociales Azim Shariff y Jean-François Bonnefon, ^{[ 3 ]} quienes concibieron la idea antes de la publicación de su artículo sobre la ética de los coches autónomos. ^{[ 4 ]} Los principales contribuyentes a la creación de la plataforma fueron los estudiantes de posgrado del MIT Media Lab, Edmond Awad y Sohan Dsouza.

Los escenarios presentados suelen ser variaciones del dilema del tranvía , y la información recopilada se utilizaría para futuras investigaciones sobre las decisiones que la inteligencia artificial deberá tomar en el futuro. ^{[ 5 ] [ 6 ] [ 7 ] [ 8 ] [ 9 ] [ 10 ]} Por ejemplo, dado que la inteligencia artificial desempeña un papel cada vez más importante en la tecnología de conducción autónoma , proyectos de investigación como Moral Machine ayudan a encontrar soluciones para las difíciles decisiones de vida o muerte a las que se enfrentarán los vehículos autónomos. ^{[ 11 ]}

Moral Machine estuvo activo desde enero de 2016 hasta julio de 2020. Moral Machine sigue estando disponible en su sitio web para que la gente pueda experimentarlo. ^{[ 1 ] [ 7 ]}

La Máquina Moral fue un proyecto ambicioso; representó el primer intento de utilizar un diseño experimental de este tipo para evaluar a un gran número de personas en más de 200 países de todo el mundo. El estudio fue aprobado por el Comité de Revisión Institucional (IRB) del Instituto Tecnológico de Massachusetts (MIT). ^{[ 7 ] [ 12 ]}

El experimento consiste en pedir al espectador que tome una decisión en un único escenario en el que un coche autónomo está a punto de atropellar a unos peatones. El usuario puede optar por que el coche gire bruscamente para evitar el atropello o que siga recto para proteger a las personas que transporta.

Los participantes pueden completar tantos escenarios como deseen; sin embargo, los escenarios se generan en grupos de trece. Dentro de estos trece, un escenario es completamente aleatorio, mientras que los otros doce se generan a partir de una base de datos de 26 millones de posibilidades diferentes. Se eligen con dos dilemas centrados en cada una de las seis dimensiones de las preferencias morales: género del personaje, edad del personaje, aptitud física del personaje, estatus social del personaje, especie del personaje y número del personaje. ^{[ 7 ] [ 12 ]}

La configuración del experimento se mantiene igual en múltiples escenarios, pero cada escenario evalúa un conjunto diferente de factores. Cabe destacar que los personajes involucrados en cada escenario son diferentes. Entre los personajes se incluyen: cochecito de bebé, niña, niño, embarazada, médico, médica, atleta, ejecutiva, atleta, ejecutivo, mujer corpulenta, hombre corpulento, persona sin hogar, anciano, anciana, perro, delincuente y gato. ^{[ 7 ]}

A través de estos diferentes personajes, los investigadores pudieron comprender cómo una amplia variedad de personas juzgará los escenarios en función de las personas involucradas.

La Máquina Moral recopiló 40 millones de decisiones morales de 4 millones de participantes en 233 países, ^{[ 13 ] [ 14 ] [ 15 ]} cuyo análisis reveló tendencias dentro de cada país y en la humanidad en su conjunto. Se evaluaron nueve factores: preferencia por perdonar a humanos frente a mascotas, pasajeros frente a peatones, hombres frente a mujeres, jóvenes frente a ancianos, personas en forma frente a personas con sobrepeso, estatus social más alto frente a más bajo, peatones imprudentes frente a personas que respetan la ley, grupos más grandes frente a grupos más pequeños e inacción (es decir, mantenerse en el camino) frente a desviarse. ^{[ 12 ]}

A nivel mundial, los participantes priorizaron las vidas humanas sobre las de animales como perros y gatos. Prefirieron salvar más vidas si era posible, y las más jóvenes en lugar de las mayores. ^{[ 15 ]} Los bebés fueron los que más se salvaron, mientras que los gatos fueron los que menos se salvaron. En cuanto a las variaciones de género, la gente tendió a salvar más a los hombres que a las mujeres en el caso de médicos y ancianos. En general, todos los países compartieron la preferencia por salvar a los peatones que a los pasajeros y a los ciudadanos respetuosos de la ley que a los delincuentes.

Los participantes de países menos ricos mostraron una mayor tendencia a perdonar a los peatones que cruzaban ilegalmente en comparación con los de países más ricos y desarrollados. Esto se debe probablemente a su experiencia viviendo en una sociedad donde las personas son más propensas a desviarse de las normas debido a una aplicación menos estricta de las leyes. Los países con mayor desigualdad económica prefieren abrumadoramente perdonar a las personas más ricas que a las más pobres. ^{[ 12 ]}

Los resultados de la máquina moral pueden ayudar a los responsables de la toma de decisiones al diseñar sistemas automovilísticos autónomos. Los diseñadores deben asegurarse de que estos vehículos sean capaces de resolver problemas en la carretera que se ajusten a los valores morales de las personas que los rodean. ^{[ 12 ] [ 7 ]}

Esto supone un reto debido a la complejidad del ser humano, cuyas decisiones pueden variar según sus valores personales. Sin embargo, al recopilar una gran cantidad de decisiones de personas de todo el mundo, los investigadores pueden empezar a comprender patrones en el contexto de una cultura, comunidad y grupo de personas en particular.

La Máquina Moral se implementó en junio de 2016. En octubre de 2016, se añadió una función que ofrecía a los usuarios la opción de completar una encuesta sobre sus datos demográficos, opiniones políticas y creencias religiosas. Entre noviembre de 2016 y marzo de 2017, el sitio web se tradujo progresivamente a nueve idiomas además del inglés (árabe, chino, francés, alemán, japonés, coreano, portugués, ruso y español). ^{[ 7 ]}

En general, Moral Machine ofrece cuatro modos diferentes, centrándose en la función de recopilación de datos del sitio web, denominada modo Juez. ^{[ 7 ]}

Esto significa que Moral Machine, además de proporcionar sus propios escenarios para que los usuarios los evalúen, también los invita a crear los suyos propios para enviarlos y aprobarlos, de modo que otras personas también puedan evaluarlos. Los datos también son de código abierto y cualquiera puede explorarlos a través de un mapa interactivo disponible en el sitio web de Moral Machine.

Los estudios e investigaciones sobre la Máquina Moral han adoptado una amplia variedad de enfoques. Sin embargo, los análisis teológicos del tema aún son escasos, existiendo actualmente dos conjuntos de trabajos que examinan esta perspectiva: uno budista ^{[ 16 ]} y otro cristiano ^{[ 17 ] .}

• Sitio web oficial