Liga de Justicia Algorítmica

El fundador de AJL, Buolamwini, colaboró ​​con el ético de IA Timnit Gebru para publicar un estudio de 2018 sobre el sesgo racial y de género en los algoritmos de reconocimiento facial utilizados por sistemas comerciales de Microsoft , IBM y Face++ . Su investigación, titulada "Gender Shades", determinó que los modelos de aprendizaje automático publicados por IBM y Microsoft eran menos precisos al analizar rostros de piel oscura y femeninos en comparación con su rendimiento en rostros de piel clara y masculinos. ^{[ 8 ] [ 9 ] [ 10 ]} El documento "Gender Shades" estuvo acompañado por el lanzamiento del Safe Face Pledge, una iniciativa diseñada con el Centro de Privacidad y Tecnología de Georgetown que instaba a las organizaciones tecnológicas y a los gobiernos a prohibir el uso letal de las tecnologías de reconocimiento facial. ^{[ 11 ]} El proyecto Gender Shades y la posterior defensa emprendida por AJL y grupos similares llevaron a varias empresas tecnológicas, incluidas Amazon e IBM, a abordar los sesgos en el desarrollo de sus algoritmos e incluso a prohibir temporalmente el uso de sus productos por parte de la policía en 2020. ^{[ 12 ] [ 13 ]}

Buolamwini y AJL aparecieron en el documental de Netflix de 2020, Coded Bias , que se estrenó en el Festival de Cine de Sundance . ^{[ 2 ] [ 14 ] [ 15 ]} Este documental se centró en la investigación y los esfuerzos de defensa de AJL para crear conciencia sobre el sesgo algorítmico en los sistemas de reconocimiento facial. ^{[ 4 ] [ 15 ]}

Una colaboración de investigación en la que participó AJL publicó un informe técnico en mayo de 2020 en el que solicitaba la creación de una nueva oficina del gobierno federal de Estados Unidos para regular el desarrollo y la implementación de tecnologías de reconocimiento facial. ^{[ 16 ]} El informe técnico proponía que la creación de una nueva oficina del gobierno federal para esta área ayudaría a reducir los riesgos de vigilancia masiva y sesgo que plantean las tecnologías de reconocimiento facial hacia las poblaciones vulnerables. ^{[ 17 ]}

La AJL ha llevado a cabo iniciativas para aumentar la concienciación pública sobre el sesgo algorítmico y las desigualdades en el rendimiento de los sistemas de IA para el modelado del habla y el lenguaje en poblaciones de género y raza. El trabajo de la AJL en este ámbito se centra en destacar las disparidades de género y raza en el rendimiento de los sistemas comerciales de reconocimiento de voz y procesamiento del lenguaje natural , que han demostrado un rendimiento inferior con las minorías raciales y han reforzado los estereotipos de género. ^{[ 18 ] [ 19 ] [ 20 ]}

En marzo de 2020, AJL publicó una pieza artística de palabra hablada, titulada Voicing Erasure, que aumentó la conciencia pública sobre el sesgo racial en los sistemas de reconocimiento automático del habla (ASR). ^{[ 21 ] [ 22 ]} La pieza fue interpretada por numerosas investigadoras y personas no binarias del campo, entre ellas Ruha Benjamin , Sasha Costanza-Chock , Safiya Noble y Kimberlé Crenshaw . ^{[ 22 ] [ 21 ]} AJL basó el desarrollo de "Voicing Erasure" en un artículo de PNAS de 2020, titulado "Disparidades raciales en el reconocimiento automático del habla", que identificó disparidades raciales en el rendimiento de cinco sistemas ASR comerciales. ^{[ 20 ]}

En 2019, Buolamwini representó a AJL en una audiencia del Comité de Ciencia, Espacio y Tecnología de la Cámara de Representantes de EE. UU. para debatir las aplicaciones de las tecnologías de reconocimiento facial en el ámbito comercial y gubernamental. ^{[ 23 ] [ 24 ]} Buolamwini compareció como testigo en la audiencia y habló sobre el bajo rendimiento de las tecnologías de reconocimiento facial para identificar a personas con piel más oscura y rasgos femeninos, y respaldó su postura con la investigación del proyecto de AJL «Gender Shades». ^{[ 24 ] [ 25 ] [ 26 ]}

En enero de 2022, la AJL colaboró ​​con Fight for the Future y el Electronic Privacy Information Center para lanzar una petición en línea llamada DumpID.me, que solicitaba al IRS que detuviera el uso de ID.me , una tecnología de reconocimiento facial que utilizaban con los usuarios al iniciar sesión. ^{[ 7 ]} La AJL y otras organizaciones enviaron cartas a los legisladores solicitándoles que instaran al IRS a detener el programa. En febrero de 2022, el IRS accedió a detener el programa y dejar de usar la tecnología de reconocimiento facial. ^{[ 27 ]} La AJL ahora ha redirigido sus esfuerzos para convencer a otras agencias gubernamentales de que dejen de usar la tecnología de reconocimiento facial; a partir de marzo de 2022, la petición DumpID.me se ha centrado en detener el uso de ID.me en todas las agencias gubernamentales. ^{[ 28 ]}

En septiembre de 2021, Olay colaboró ​​con AJL y O'Neil Risk Consulting & Algorithmic Auditing (ORCAA) para llevar a cabo la campaña Decode the Bias, que incluyó una auditoría que exploró si el  sistema Olay Skin Advisor (OSA) incluía sesgos contra las mujeres de color. ^{[ 29 ]} AJL eligió colaborar con Olay debido al compromiso de Olay de obtener el consentimiento de los clientes para que sus selfies y datos de piel se utilizaran en esta auditoría. ^{[ 30 ]} La auditoría de AJL y ORCAA reveló que el sistema OSA contenía sesgos en su rendimiento según el color de piel y la edad de los participantes. ^{[ 30 ]} El sistema OSA demostró mayor precisión para los participantes con tonos de piel más claros, según las escalas de clasificación de piel Fitzpatrick Skin Type y tipología individual. El sistema OSA también demostró mayor precisión para los participantes de 30 a 39 años. ^{[ 31 ]} Desde entonces, Olay ha tomado medidas para auditar internamente y mitigar el sesgo del sistema OSA. ^{[ 30 ]} Olay también ha financiado a 1000 niñas para que asistan al campamento Black Girls Code , para alentar a las niñas afroamericanas a seguir carreras STEM. ^{[ 30 ]}

En julio de 2020, AJL lanzó el Proyecto de Informes Comunitarios de Daños a Sistemas Algorítmicos (CRASH). ^{[ 32 ]} Este proyecto comenzó en 2019 cuando Buolamwini y la investigadora de seguridad digital Camille François se conocieron en el Programa de Residencia del Centro Bellagio, organizado por la Fundación Rockefeller . Desde entonces, el proyecto también ha sido codirigido por la profesora del MIT y directora de investigación de AJL, Sasha Costanza-Chock . El proyecto CRASH se centró en crear el marco para el desarrollo de programas de recompensas por errores (BBP) que incentivarían a las personas a descubrir e informar casos de sesgo algorítmico en tecnologías de IA. ^{[ 32 ] [ 33 ]} Después de realizar entrevistas con participantes de BBP y un estudio de caso del programa BBP de Twitter, ^{[ 34 ]} los investigadores de AJL desarrollaron y propusieron un marco conceptual para diseñar programas BBP que compensen y animen a las personas a localizar y revelar la existencia de sesgo en sistemas de IA. ^{[ 35 ]} AJL pretende que el marco CRASH permita a las personas informar sobre los daños causados ​​por los algoritmos y estimular el cambio en las tecnologías de IA implementadas por las empresas, especialmente a las personas que tradicionalmente han sido excluidas del diseño de estas tecnologías de IA [20, informe de DataSociety]. ^{[ 36 ] [ 37 ]}

A partir de 2023, la AJL lanzó la campaña «Freedom Flyers», que busca concienciar sobre el uso del reconocimiento facial por parte de la TSA en los aeropuertos estadounidenses. Como parte de la campaña, la organización recopila las experiencias de los viajeros mediante una «tarjeta de puntuación de la TSA» para documentar cómo se utilizan los sistemas biométricos en los puntos de control de los aeropuertos. Su informe «¿Cumplir para volar?» reveló que muchos viajeros perciben el control mediante reconocimiento facial como obligatorio, a pesar de las afirmaciones oficiales de que es voluntario. ^{[ 38 ]}

La campaña también destaca que los pasajeros pueden optar por no participar en el reconocimiento facial sin penalización y organiza eventos como la Cumbre Freedom Flyers para debatir las implicaciones más amplias de estas tecnologías. ^{[ 39 ]} Presenta los controles de seguridad en los aeropuertos como un lugar clave en la expansión de la vigilancia biométrica y plantea inquietudes sobre la privacidad, el consentimiento y los posibles sesgos, en particular para los grupos marginados.