Convenio Marco sobre Inteligencia Artificial

El Convenio Marco sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho (también llamado Convenio Marco sobre Inteligencia Artificial , Convenio de IA o Convenio de Vilna ^{[ 1 ]} ) es un tratado internacional sobre inteligencia artificial . Fue adoptado bajo los auspicios del Consejo de Europa (CdE) y firmado el 5 de septiembre de 2024 en Vilna , Lituania . ^{[ 2 ]} El tratado tiene como objetivo garantizar que el desarrollo y el uso de las tecnologías de IA se ajusten a los derechos humanos fundamentales, los valores democráticos y el estado de derecho, abordando riesgos como la desinformación, la discriminación algorítmica y las amenazas a las instituciones públicas. ^{[ 3 ]}

Más de 50 países, incluidos los Estados miembros de la UE, han respaldado el Convenio Marco sobre Inteligencia Artificial. ^{[ 4 ]}

El desarrollo del Convenio Marco sobre la Inteligencia Artificial surgió en respuesta a la creciente preocupación por las repercusiones éticas, jurídicas y sociales de la inteligencia artificial. El Consejo de Europa , que históricamente ha desempeñado un papel fundamental en el establecimiento de normas de derechos humanos en toda Europa, inició debates sobre la gobernanza de la IA en 2020, lo que condujo a la elaboración de un marco jurídico vinculante.

El proceso de creación del Convenio Marco comenzó en 2019 con la evaluación de la viabilidad del instrumento por parte del Comité ad hoc de Inteligencia Artificial (CAHAI). En 2022, el Comité de Inteligencia Artificial (CAI) asumió el proceso, redactando y negociando el texto del Convenio. ^{[ 5 ]}

El tratado está concebido para complementar los instrumentos internacionales de derechos humanos existentes , incluido el Convenio Europeo de Derechos Humanos y el Convenio para la Protección de las Personas Físicas con respecto al Tratamiento Automatizado de Datos de Carácter Personal .

La Convención establece principios fundamentales para la gobernanza de la IA, incluyendo transparencia, rendición de cuentas, no discriminación y protección de los derechos humanos, a través de ocho capítulos y 26 artículos. Adoptado en 2024, este tratado histórico aborda la gobernanza de la IA mediante siete principios básicos y mecanismos de implementación detallados. ^{[ 6 ]} Exige evaluaciones de riesgo e impacto para mitigar los daños potenciales y proporciona salvaguardias como el derecho a impugnar las decisiones basadas en IA. Se aplica a las autoridades públicas y entidades privadas que actúan en su nombre, pero excluye las actividades de seguridad nacional y defensa. La implementación es supervisada por una Conferencia de las Partes, lo que garantiza el cumplimiento y la cooperación internacional.

Las actividades dentro del ciclo de vida del sistema de IA deben adherirse a siete principios fundamentales, garantizando el cumplimiento de los derechos humanos, la democracia y el estado de derecho. El tratado también establece recursos, derechos procesales y salvaguardias, así como requisitos de gestión de riesgos e impactos para promover la rendición de cuentas, la transparencia y el desarrollo responsable de la IA. ^{[ 6 ]}

El tratado consta de cinco capítulos. El capítulo I contiene disposiciones generales. El capítulo II establece la obligación general de proteger los derechos humanos, la integridad de los procesos democráticos y el respeto al estado de derecho. Los principios y derechos principales se recogen en el capítulo III, que comprende los artículos 6 a 13. El capítulo IV (artículos 14 y 15) establece los recursos legales. El capítulo V establece el marco de gestión de riesgos e impactos. El capítulo VI facilita los criterios de aplicación del tratado. El capítulo VII establece los mecanismos de cooperación y supervisión. El capítulo VIII contiene diversas cláusulas finales. ^{[ 7 ]}

El artículo 1 declara los objetivos del tratado, que consisten en garantizar que las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial sean plenamente compatibles con los derechos humanos, la democracia y el estado de derecho. ^{[ 7 ]}

El tratado entrará en vigor el primer día del mes siguiente a la expiración de un período de tres meses después de la fecha en que se produzcan cinco ratificaciones realizadas por cinco países, incluidos tres Estados miembros del Consejo de Europa. ^{[ 4 ] [ 8 ]}

Si bien el Convenio sobre IA del Consejo de Europa representa un esfuerzo multilateral para regular la IA mediante un enfoque basado en los derechos humanos, también se han propuesto marcos alternativos. Un ejemplo notable es el Proyecto de Múnich para un Convenio sobre IA, Datos y Derechos Humanos, una iniciativa liderada por juristas y responsables políticos en Alemania. ^{[ 9 ]} El Proyecto de Múnich aboga por salvaguardias más sólidas contra los riesgos relacionados con la IA, haciendo hincapié en medidas más estrictas de protección de datos, la rendición de cuentas de los desarrolladores de IA y prohibiciones explícitas de aplicaciones de IA de alto riesgo, como la vigilancia masiva y las armas letales autónomas. A diferencia del Convenio del Consejo de Europa, que se centra en equilibrar la innovación con la regulación, el Proyecto de Múnich adopta una postura más precautoria, exigiendo controles más estrictos sobre el despliegue de la IA en ámbitos sensibles.

Otras iniciativas internacionales que compiten entre sí incluyen los Principios de IA de la OCDE , la GPAI (Asociación Global sobre IA) y la Ley de IA de la Unión Europea , cada una de las cuales ofrece diferentes estrategias regulatorias para gobernar la IA a nivel regional y global.

Los signatarios ^{[ 4 ]} incluyen Andorra, Canadá, ^{[ 10 ]} la Unión Europea, ^{[ 11 ]} Georgia, Islandia, Israel, Japón, Liechtenstein, ^{[ 12 ]} la República de Moldavia, Montenegro, Noruega, San Marino, Suiza, ^{[ 13 ]} Ucrania, ^{[ 14 ]} el Reino Unido, los Estados Unidos, ^{[ 15 ]} y Uruguay. ^{[ 16 ]}

El tratado contó con el amplio respaldo de destacados expertos en políticas de IA, entre ellos Stuart J. Russell , Virginia Dignum , Emma Ruttkamp-Bloem, Pascal Pichonnaz, Maria Helen Murphy, Angella Ndaka, Hannes Werthner, Katja Langenbucher, Gry Hasselbalch, Ricardo Baeza-Yates, Kutoma Wakunuma, Gianclaudio Malgieri, Oreste Pollicino, Nagla Rizk, Giovanni Sartor, Lee. Tiedrich, Ingrid Schneider, Eduardo Bertoni, Garry Kasparov , Merve Hikcok y Marc Rotenberg . ^{[ 17 ]}

El tratado también fue respaldado por destacados líderes políticos, entre ellos Theodoros Roussopoulos , Presidente de la Asamblea Parlamentaria del Consejo de Europa, y Christopher Holmes , Miembro de la Cámara de los Lores del Reino Unido, ^{[ 17 ]} y por la Asociación Internacional de Abogados (IBA), ^{[ 18 ]} y personalmente por Almudena Arpón de Mendívil, ^{[ 17 ]} Presidenta de la IBA.

El Centro para la IA y la Política Digital (CAIDP) ha llevado a cabo una campaña para promover el respaldo al tratado, instando a varios países a firmarlo y ratificarlo. El CAIDP también instó a los países a asumir un compromiso claro y firme para garantizar la plena inclusión del sector privado en virtud de las disposiciones del tratado. ^{[ 17 ]}

• Sitio web oficial