Transparencia algorítmica

La transparencia algorítmica es el principio de que los factores que influyen en las decisiones tomadas por los algoritmos deben ser visibles, o transparentes, para las personas que usan, regulan y se ven afectadas por los sistemas que emplean esos algoritmos. Si bien la frase fue acuñada en 2016 por Nicholas Diakopoulos y Michael Koliska sobre el papel de los algoritmos en la decisión del contenido de los servicios de periodismo digital, ^{[ 1 ]} el principio subyacente se remonta a la década de 1970 y al auge de los sistemas automatizados para calificar el crédito al consumidor.

Las expresiones «transparencia algorítmica» y «responsabilidad algorítmica» ^{[ 2 ]} se utilizan a veces indistintamente —sobre todo porque fueron acuñadas por las mismas personas—, pero tienen significados sutilmente diferentes. En concreto, «transparencia algorítmica» establece que deben conocerse las entradas del algoritmo y su uso, pero no necesariamente de forma justa. « Responsabilidad algorítmica » implica que las organizaciones que utilizan algoritmos deben rendir cuentas por las decisiones tomadas por estos, aunque dichas decisiones las tome una máquina y no un ser humano. ^{[ 3 ]}

La investigación actual sobre transparencia algorítmica se interesa tanto en los efectos sociales del acceso a servicios remotos que ejecutan algoritmos, ^{[ 4 ]} como en los enfoques matemáticos e informáticos que pueden utilizarse para lograr la transparencia algorítmica. ^{[ 5 ] [ 6 ]} En Estados Unidos, la Oficina de Protección al Consumidor de la Comisión Federal de Comercio estudia cómo los consumidores utilizan los algoritmos mediante su propia investigación sobre transparencia algorítmica y financiando investigaciones externas. ^{[ 7 ]} En la Unión Europea , las leyes de protección de datos que entraron en vigor en mayo de 2018 incluyen un «derecho a la explicación» de las decisiones tomadas por algoritmos, aunque no está claro qué significa esto. ^{[ 8 ]} Además, la Unión Europea fundó el Centro Europeo para la Transparencia Algorítmica (ECAT). ^{[ 9 ]}

• Responsabilidad algorítmica
• Caja negra
• IA explicable
• Regulación de algoritmos
• Ingeniería inversa
• Derecho a explicación