ética de los macrodatos

La propiedad de los datos implica determinar los derechos y deberes sobre la propiedad, como la capacidad de ejercer control individual sobre (incluida la limitación de su intercambio) los datos personales que conforman la identidad digital de una persona. La cuestión de la propiedad de los datos surge cuando alguien registra observaciones sobre un individuo: tanto el observador como el observado reclaman la propiedad de los datos. También surgen preguntas sobre las responsabilidades que el observador y el observado tienen entre sí. Estas cuestiones han cobrado mayor relevancia con Internet, que ha ampliado la escala y sistematizado la observación de las personas y sus pensamientos. La cuestión de la propiedad de los datos personales se relaciona con cuestiones de propiedad corporativa y propiedad intelectual. ^{[ 4 ]}

En la Unión Europea, algunas personas argumentan que el Reglamento General de Protección de Datos indica que los individuos son dueños de sus datos personales, aunque esto es discutido. ^{[ 5 ]}

Se han planteado preocupaciones sobre cómo los sesgos pueden integrarse en el diseño de algoritmos, lo que resulta en una opresión sistemática ^{[ 6 ]} , ya sea consciente o inconsciente. Estas manipulaciones a menudo provienen de sesgos en los datos, el diseño del algoritmo o los objetivos subyacentes de la organización que los implementa. Una causa importante del sesgo algorítmico es que los algoritmos aprenden de datos históricos, lo que puede perpetuar las desigualdades existentes. En muchos casos, los algoritmos muestran una precisión reducida cuando se aplican a personas de comunidades marginadas o subrepresentadas. Un ejemplo notable de esto es la oximetría de pulso, que ha mostrado una fiabilidad reducida para ciertos grupos demográficos debido a la falta de pruebas o información suficientes sobre estas poblaciones. ^{[ 7 ]} Además, muchos algoritmos están diseñados para maximizar métricas específicas, como la participación o las ganancias, sin considerar adecuadamente las implicaciones éticas. Por ejemplo, empresas como Facebook y Twitter han sido criticadas por brindar anonimato a los acosadores y por permitir que prolifere contenido racista disfrazado de humor, ya que dicho contenido a menudo aumenta la participación. ^{[ 8 ]} Estos desafíos se ven agravados por el hecho de que muchos algoritmos funcionan como "cajas negras" por razones de propiedad, lo que significa que los usuarios no comprenden completamente el razonamiento detrás de sus resultados. Esta opacidad dificulta la identificación y corrección de sesgos algorítmicos.

En términos de gobernanza, la ética de los macrodatos se ocupa de qué tipos de inferencias y predicciones deben hacerse utilizando tecnologías de macrodatos como los algoritmos. ^{[ 9 ]}

La gobernanza anticipatoria es la práctica de utilizar análisis predictivos para evaluar posibles comportamientos futuros. ^{[ 10 ]} Esto tiene implicaciones éticas porque permite dirigir la atención a grupos y lugares específicos, lo que puede fomentar el prejuicio y la discriminación. ^{[ 10 ]} Por ejemplo, la vigilancia predictiva destaca ciertos grupos o vecindarios que deben ser vigilados más de cerca que otros, lo que conlleva más sanciones en estas áreas y una vigilancia más estrecha para aquellos que se ajustan a los mismos perfiles que los sancionados. ^{[ 11 ]}

El término "descontrol progresivo" se refiere a datos que se han generado con un propósito específico, pero que luego se reutilizan. ^{[ 10 ]} Esta práctica se observa en los datos de la industria aérea, que se han reutilizado para elaborar perfiles y gestionar los riesgos de seguridad en los aeropuertos. ^{[ 10 ]}

La privacidad se ha presentado como una limitación al uso de datos que también podría considerarse poco ético. ^{[ 12 ]} Por ejemplo, el intercambio de datos de salud puede esclarecer las causas de las enfermedades, los efectos de los tratamientos y permitir análisis personalizados basados ​​en las necesidades individuales. ^{[ 12 ]} Esto tiene importancia ética en el campo de la ética de los macrodatos porque, si bien muchos valoran la privacidad, las ventajas del intercambio de datos también son muy valiosas, aunque puedan contradecir la concepción que se tiene de la privacidad. Las actitudes en contra del intercambio de datos pueden basarse en una percepción de pérdida de control sobre los datos y en el temor a la explotación de datos personales. ^{[ 12 ]} Sin embargo, es posible extraer el valor de los datos sin comprometer la privacidad.

La vigilancia gubernamental de macrodatos tiene el potencial de socavar la privacidad individual al recopilar y almacenar datos sobre llamadas telefónicas, actividad en internet y geolocalización, entre otros. Por ejemplo, la recopilación de metadatos por parte de la NSA, expuesta en revelaciones de vigilancia global, generó inquietudes sobre si la privacidad estaba adecuadamente protegida, incluso cuando no se analizaba el contenido de las comunicaciones. El derecho a la privacidad suele verse complicado por marcos legales que otorgan a los gobiernos amplia autoridad sobre la recopilación de datos con fines de "seguridad nacional". En Estados Unidos, la Corte Suprema no ha reconocido un derecho general a la "privacidad informativa" ni al control sobre la información personal, aunque los legisladores han abordado el tema de forma selectiva mediante leyes específicas. ^{[ 13 ]} Desde una perspectiva de equidad, la vigilancia gubernamental y las violaciones de la privacidad tienden a perjudicar desproporcionadamente a las comunidades marginadas. Históricamente, los activistas del movimiento por los derechos civiles fueron frecuentemente blanco de la vigilancia gubernamental, ya que se les percibía como elementos subversivos. Programas como COINTELPRO ejemplificaron este patrón, que implicaba el espionaje contra líderes de los derechos civiles. Este patrón persiste hoy en día, con evidencia de vigilancia continua de activistas y organizaciones. ^{[ 14 ]}

Además, el uso de algoritmos por parte de los gobiernos para actuar sobre datos obtenidos sin consentimiento introduce importantes preocupaciones sobre el sesgo algorítmico. Las herramientas de vigilancia predictiva, por ejemplo, utilizan datos históricos de delitos para predecir áreas o individuos "de riesgo", pero se ha demostrado que estas herramientas se dirigen de manera desproporcionada a las comunidades minoritarias. ^{[ 15 ]} Una de estas herramientas, el sistema COMPAS , es un ejemplo notable; los acusados ​​negros tienen el doble de probabilidades de ser clasificados erróneamente como de alto riesgo en comparación con los acusados ​​blancos, y los acusados ​​hispanos tienen igualmente más probabilidades de ser clasificados como de alto riesgo que sus homólogos blancos. ^{[ 16 ]} Las comunidades marginadas a menudo carecen de los recursos o la educación necesarios para impugnar estas violaciones de la privacidad o proteger sus datos del uso no consentido. Además, existe un costo psicológico, conocido como el "efecto disuasorio", donde la conciencia constante de ser vigilados impacta de manera desproporcionada a las comunidades que ya enfrentan discriminación social. Este efecto puede disuadir a las personas de participar en actividades legales pero potencialmente "arriesgadas", como protestar o buscar asistencia legal, lo que limita aún más sus libertades y exacerba las desigualdades existentes.

Algunos académicos como Jonathan H. King y Neil M. Richards están redefiniendo el significado tradicional de privacidad, y otros cuestionan si la privacidad aún existe. ^{[ 9 ]} En un artículo de 2014 para la Wake Forest Law Review , King y Richard argumentan que la privacidad en la era digital puede entenderse no en términos de secreto, sino en términos de regulaciones que rigen y controlan el uso de la información personal. ^{[ 9 ]} En la Unión Europea, el derecho al olvido faculta a los países de la UE para forzar la eliminación o desvinculación de datos personales de las bases de datos a solicitud de un individuo si la información se considera irrelevante o desactualizada. ^{[ 17 ]} Según Andrew Hoskins, esta ley demuestra el pánico moral de los miembros de la UE por la supuesta pérdida de privacidad y la capacidad de gobernar los datos personales en la era digital. ^{[ 18 ]} En los Estados Unidos, los ciudadanos tienen derecho a eliminar los datos enviados voluntariamente. ^{[ 17 ]} Esto es muy diferente del derecho al olvido porque gran parte de los datos producidos utilizando tecnologías y plataformas de big data no se envían voluntariamente. ^{[ 17 ]} Si bien las nociones tradicionales de privacidad están bajo escrutinio, los diferentes marcos legales relacionados con la privacidad en la UE y EE. UU. demuestran cómo los países están lidiando con estas preocupaciones en el contexto del big data. Por ejemplo, el "derecho al olvido" en la UE y el derecho a eliminar los datos enviados voluntariamente en EE. UU. ilustran los distintos enfoques de la regulación de la privacidad en la era digital. ^{[ 19 ]}

La idea de datos abiertos se centra en el argumento de que los datos deben estar disponibles libremente y no deben tener restricciones que prohíban su uso, como las leyes de derechos de autor. A partir de 2014Muchos gobiernos habían comenzado a avanzar hacia la publicación de conjuntos de datos abiertos con el fin de lograr transparencia y rendición de cuentas. ^{[ 22 ]} Este movimiento ha cobrado fuerza gracias a los "activistas de datos abiertos", quienes han instado a los gobiernos a poner los conjuntos de datos a disposición de los ciudadanos para que estos puedan extraer significado de los datos y realizar controles y equilibrios por sí mismos. ^{[ 22 ] [ 9 ]} King y Richards han argumentado que este llamado a la transparencia implica una tensión entre apertura y secreto. ^{[ 9 ]}

Activistas y académicos también han argumentado que, dado que este modelo de evaluación de datos de código abierto se basa en la participación voluntaria, la disponibilidad de conjuntos de datos abiertos tiene un efecto democratizador en la sociedad, permitiendo que cualquier ciudadano participe. ^{[ 23 ]} Para algunos, la disponibilidad de ciertos tipos de datos se considera un derecho y una parte esencial de la capacidad de acción del ciudadano. ^{[ 23 ]}

La Open Knowledge Foundation (OKF) enumera varios tipos de conjuntos de datos que, según argumenta, deberían ser proporcionados por los gobiernos para que sean verdaderamente abiertos. ^{[ 24 ]} La OKF cuenta con una herramienta llamada Índice Global de Datos Abiertos (GODI), una encuesta colaborativa para medir la apertura de los gobiernos, ^{[ 24 ]} basada en su Definición Abierta . GODI pretende ser una herramienta para proporcionar retroalimentación a los gobiernos sobre la calidad de sus conjuntos de datos abiertos. ^{[ 25 ]}

La disposición a compartir datos varía de persona a persona. Se han realizado estudios preliminares sobre los factores que determinan dicha disposición. Por ejemplo, algunos estudios sugieren que los baby boomers están menos dispuestos a compartir datos que los millennials. ^{[ 26 ]}

Las repercusiones de las revelaciones de Edward Snowden en 2013 transformaron significativamente el debate público en torno a la recopilación de datos y el principio de privacidad de la ética del big data. El caso reveló que los gobiernos controlaban y poseían mucha más información sobre los civiles de lo que se creía, violando el principio de propiedad, especialmente de maneras que afectaban desproporcionadamente a las comunidades desfavorecidas. Por ejemplo, los activistas eran frecuentemente blanco de ataques, incluidos miembros de movimientos como Occupy Wall Street y Black Lives Matter. ^{[ 14 ]} Esta revelación impulsó a gobiernos y organizaciones a revisar las prácticas de recopilación y almacenamiento de datos para proteger mejor la privacidad individual y, al mismo tiempo, abordar las preocupaciones de seguridad nacional. El caso también expuso la vigilancia en línea generalizada de otros países y sus ciudadanos, planteando importantes interrogantes sobre la soberanía y la propiedad de los datos. En respuesta, algunos países, como Brasil y Alemania, tomaron medidas para oponerse a estas prácticas. ^{[ 14 ]} Sin embargo, muchas naciones en desarrollo carecían de la independencia tecnológica necesaria o dependían demasiado de las naciones que las vigilaban para resistir dicha vigilancia, lo que las dejaba en desventaja para abordar estas preocupaciones.

El escándalo de Cambridge Analytica puso de relieve importantes preocupaciones éticas en el uso de macrodatos. Se recopilaron datos de aproximadamente 87 millones de usuarios de Facebook sin su consentimiento explícito y se utilizaron para mostrar anuncios políticos dirigidos. Esto violó el principio de ética de los macrodatos, ya que las personas inicialmente desconocían cómo se estaban explotando sus datos. El escándalo reveló cómo los datos recopilados para un propósito podían reutilizarse para usos completamente diferentes, eludiendo el consentimiento de los usuarios y enfatizando la necesidad de un consentimiento explícito e informado en el uso de datos. ^{[ 27 ]} Además, los algoritmos utilizados para la entrega de anuncios eran opacos, lo que desafió los principios de transparencia y apertura de las transacciones. En algunos casos, los anuncios políticos difundieron desinformación, ^{[ 27 ]} a menudo dirigiéndose desproporcionadamente a grupos desfavorecidos y contribuyendo a las brechas de conocimiento. Las comunidades marginadas y las personas con menor alfabetización digital se vieron afectadas de manera desproporcionada, ya que tenían menos probabilidades de reconocer o actuar contra la explotación. Por el contrario, los usuarios con más recursos o alfabetización digital podían proteger mejor sus datos, lo que exacerbó los desequilibrios de poder existentes.