Declaración de Toronto

El documento comienza planteando la pregunta: «En un mundo de sistemas de aprendizaje automático, ¿quién será responsable de los daños a los derechos humanos ?» ^{[ 4 ]} Argumenta que todos los profesionales, ya sea en el sector público o privado, deben ser conscientes de los riesgos para los derechos humanos y abordar su trabajo teniendo en cuenta los derechos humanos, conscientes de las leyes, normas y principios internacionales existentes. El documento define los derechos humanos para incluir «el derecho a la privacidad y la protección de datos, el derecho a la libertad de expresión y asociación, a la participación en la vida cultural, la igualdad ante la ley y el acceso a un recurso efectivo»; ^{[ 4 ]} pero afirma que la Declaración se centra principalmente en la igualdad y la no discriminación.

El marco del derecho internacional de los derechos humanos enumera diversos derechos, proporciona mecanismos para exigir responsabilidades a quienes los violan y garantiza la reparación para las víctimas. El documento cita la definición de discriminación del Comité de Derechos Humanos de las Naciones Unidas como «toda distinción, exclusión, restricción o preferencia basada en cualquier motivo [incluidos, entre otros, la raza, el color, el sexo, el idioma, la religión, la opinión política o de otra índole, el origen nacional o social, la posición económica, el nacimiento o cualquier otra condición, y que tenga por objeto o efecto anular o menoscabar el reconocimiento, el goce o el ejercicio, en igualdad de condiciones, de todos los derechos y libertades de todas las personas». ^{[ 7 ]}

Los gobiernos deben crear proactivamente medidas vinculantes, y las entidades privadas deben establecer políticas internas, para protegerse contra la discriminación. Estas medidas pueden incluir la protección de datos sensibles, especialmente para poblaciones vulnerables. Los sistemas deben diseñarse en colaboración con una comunidad diversa para prevenir la discriminación en su diseño.

Actualmente, los gobiernos están implementando sistemas de aprendizaje automático, a menudo en colaboración con entidades privadas. Incluso cuando el desarrollo se subcontrata a terceros, los gobiernos conservan su obligación de proteger los derechos humanos. Antes de la implementación, y de forma continua posteriormente, deben identificar los riesgos y realizar auditorías periódicas, para luego adoptar todas las medidas necesarias para mitigarlos. Deben ser transparentes sobre cómo se implementa y utiliza el aprendizaje automático, evitando sistemas opacos cuya lógica no pueda explicarse fácilmente. Los sistemas deben estar sujetos a una supervisión estricta por parte de diversos comités internos y autoridades judiciales independientes.

Los gobiernos también deben proteger a los ciudadanos de la discriminación por parte de entidades privadas. Además de la supervisión, deben promulgar leyes vinculantes contra la discriminación, así como para la protección de datos y la privacidad, y deben proporcionar mecanismos efectivos de reparación para las personas afectadas. Es importante que los gobiernos nacionales y regionales profundicen en el derecho internacional y lo contextualicen.

Las entidades privadas son responsables de llevar a cabo la debida diligencia en materia de derechos humanos . Al igual que los gobiernos, las entidades privadas deben identificar los riesgos antes del desarrollo, considerando los riesgos comunes y consultando a las partes interesadas, incluidos los grupos afectados, las organizaciones que trabajan en derechos humanos, igualdad y discriminación, así como expertos independientes en derechos humanos y aprendizaje automático. ^{[ 4 ]} Deben diseñar sistemas que mitiguen los riesgos, someterlos a auditorías periódicas y renunciar a proyectos que impliquen riesgos excesivos. Deben ser transparentes sobre los riesgos asumidos, incluyendo detalles de la implementación técnica cuando sea necesario, y deben proporcionar un mecanismo para que las personas afectadas puedan impugnar cualquier decisión que les afecte.

«El derecho a la justicia es un elemento vital del derecho internacional de los derechos humanos». ^{[ 4 ]} Las entidades privadas deben crear procesos para que las personas afectadas busquen reparación y deben designar a quienes supervisarán estos procesos. Los gobiernos deben ser especialmente cautelosos al implementar sistemas de aprendizaje automático en el sector de la justicia. La transparencia, la rendición de cuentas y la reparación pueden ser de gran ayuda.