Estudios de datos críticos

Los estudios críticos de datos exploran y abordan los desafíos sociales, culturales y éticos que surgen al trabajar con macrodatos . Esta forma de estudio se practica mediante diversas perspectivas únicas y un enfoque crítico. ^{[ 1 ]} Como su nombre lo indica, los estudios críticos de datos se basan en gran medida en la teoría crítica , la cual se centra en analizar la organización de las estructuras de poder. Esta idea se aplica posteriormente al estudio de los datos.

El interés en este campo único de estudios críticos de datos comenzó en 2011 con las académicas Danah Boyd y Kate Crawford, quienes plantearon varias preguntas para el estudio crítico de los macrodatos y reconocieron sus posibles impactos amenazantes en la sociedad y la cultura. ^{[ 2 ]} No fue hasta 2014, y tras más exploración y conversaciones, que los académicos Craig Dalton y Jim Thatcher acuñaron oficialmente el término estudios críticos de datos. ^{[ 1 ]} Hicieron gran hincapié en comprender el contexto de los macrodatos para abordarlos de manera más crítica. Investigadores como David Ribes, Robert Soden, Seyram Avle, Sarah E. Fox y Phoebe Sengers se centran en comprender los datos como un artefacto histórico y en adoptar un enfoque interdisciplinario hacia los estudios críticos de datos. ^{[ 3 ]} Otros académicos clave en esta disciplina incluyen a Rob Kitchin y Tracey P. Lauriault, quienes se centran en reevaluar los datos a través de diferentes ámbitos. ^{[ 4 ]}

Entre los diversos marcos teóricos que se pueden aplicar para analizar grandes volúmenes de datos se incluyen los enfoques feminista, antirracista, queer, indígena, decolonial, anticapacitista, así como la ciencia de datos simbólica y sintética. Estos marcos ayudan a comprender los datos abordando cuestiones como el poder, los sesgos, la privacidad, el consentimiento y la subrepresentación o tergiversación presentes en ellos, además de cómo abordarlos y analizarlos con una perspectiva más equitativa.

En su artículo donde acuñan el término "estudios críticos de datos", Dalton y Thatcher también proporcionan varias justificaciones de por qué los estudios de datos son una disciplina digna de un enfoque crítico. ^{[ 5 ]} Primero, el "big data" es un aspecto importante de la sociedad del siglo XXI, y el análisis del "big data" permite una comprensión más profunda de lo que está sucediendo y por qué razones. ^{[ 1 ]} El big data es importante para los estudios críticos de datos porque es el tipo de datos que se utiliza en este campo. El big data no se refiere necesariamente a un conjunto de datos grande; puede tener un conjunto de datos con millones de filas, pero también un conjunto de datos que simplemente tiene una amplia variedad y un alcance expansivo de datos con un tipo de conjunto de datos más pequeño. Además, puede tener poblaciones enteras en el conjunto de datos y no solo tamaños de muestra. Además, el big data como herramienta tecnológica y la información que produce no son neutrales, según Dalton y Thatcher, lo que hace que sea digno de un análisis crítico para identificar y abordar sus sesgos. Partiendo de esta idea, otra justificación para un enfoque crítico es que la relación entre los macrodatos y la sociedad es importante y, por lo tanto, digna de estudio. ^{[ 1 ]}

Ribes et al. argumentan que es necesario un entendimiento interdisciplinario de los datos como artefacto histórico como aspecto motivador de los estudios críticos de datos. El consenso general en el campo del Trabajo Cooperativo Asistido por Computadora (CSCW, por sus siglas en inglés) es que las personas deben hablar por los datos, y no dejar que los datos hablen por sí mismos.

Las fuentes de macrodatos y su relación con diversos metadatos pueden ser complejas, lo que genera desorden en los datos y la necesidad de un análisis ético. ^{[ 6 ]} Además, Iliadis y Russo (2016) han propuesto estudiar los conjuntos de datos . ^{[ 6 ]} Esto significa que los datos poseen historias tecnológicas, políticas, sociales y económicas inherentes que deben tenerse en cuenta. Kitchin sostiene que los datos casi nunca están en bruto, sino casi siempre procesados, lo que implica que siempre están representados por los científicos de datos que los utilizan. Por lo tanto, los macrodatos deben estar abiertos a diversas perspectivas, especialmente aquellas de naturaleza cultural y filosófica. Además, los datos contienen historias, ideologías y filosofías ocultas. ^{[ 6 ]}

La tecnología de big data puede causar cambios significativos en la estructura de la sociedad y en la vida cotidiana de las personas, ^{[ 1 ]} y, al ser un producto de la sociedad, merece una investigación sociológica. ^{[ 1 ]} Además, los conjuntos de datos casi nunca están completamente libres de influencia. Más bien, los datos son moldeados por la visión o los objetivos de quienes los recopilan, y durante el proceso de recopilación de datos, ciertas cosas son cuantificadas, almacenadas, clasificadas e incluso descartadas por el equipo de investigación. ^{[ 7 ]} Por lo tanto, es necesario un enfoque crítico para comprender y revelar la intención detrás de la información que se presenta. Uno de estos enfoques críticos ha sido a través de los estudios de datos feministas. Este método aplica principios feministas a los estudios críticos y a la recopilación y el análisis de datos. El objetivo es abordar el desequilibrio de poder en la ciencia de datos y la sociedad. Según Catherine D'Ignazio y Lauren F. Klein, un análisis de poder puede realizarse examinando el poder, desafiándolo, evaluando la emoción y la corporalidad, repensando las dicotomías y jerarquías, abrazando el pluralismo, considerando el contexto y haciendo visible el trabajo. ^{[ 8 ]} Los estudios de datos feministas forman parte del movimiento para que los datos beneficien a todos y no aumenten las desigualdades existentes. Además, los datos por sí solos no pueden hablar por sí mismos; para tener algún significado concreto, los datos deben ir acompañados de una perspectiva teórica o de medidas de investigación cuantitativas o cualitativas alternativas. ^{[ 1 ] [ 9 ]} Basados ​​en diferentes temas sociales como los estudios de datos antirracistas, los estudios de datos críticos se centran en esos problemas sociales relacionados con los datos. Específicamente en los estudios de datos antirracistas utilizan un enfoque de clasificación para obtener representación de aquellos dentro de esa comunidad. Desmond Upton Patton y otros utilizaron su propio sistema de clasificación en las comunidades de Chicago para ayudar a identificar y reducir la violencia con adolescentes jóvenes en Twitter. Contaron con estudiantes de esas comunidades que les ayudaron a descifrar la terminología y los emojis de estos adolescentes para identificar el lenguaje utilizado en los tuits que luego derivaron en violencia fuera de las pantallas de las computadoras. ^{[ 10 ]} Este es solo un ejemplo del mundo real de los estudios de datos críticos y su aplicación. Dalton y Thatcher argumentan que si uno solo piensa en los datos en términos de su poder de explotación, no hay posibilidad de utilizarlos con fines revolucionarios y liberadores. ^{[ 1 ]}Finalmente, Dalton y Thatcher proponen que un enfoque crítico en el estudio de datos permite combinar los "macrodatos" con los "microdatos" más antiguos, y así crear una investigación más exhaustiva, abriendo más oportunidades, preguntas y temas para explorar. ^{[ 1 ] [ 11 ]}

Los datos desempeñan un papel fundamental en la emergente economía del conocimiento, impulsando la productividad, la competitividad, la eficiencia, la sostenibilidad y la acumulación de capital. Las dimensiones éticas, políticas y económicas de los datos evolucionan dinámicamente en el espacio y el tiempo, influenciadas por los cambios en los regímenes, las tecnologías y las prioridades. Técnicamente, el enfoque se centra en el manejo, el almacenamiento y el análisis de vastos conjuntos de datos, utilizando minería de datos y análisis basados ​​en aprendizaje automático. Este avance tecnológico plantea inquietudes sobre la calidad de los datos, que abarca la validez, la fiabilidad, la autenticidad, la usabilidad y el origen. ^{[ 12 ]}

El uso de datos en la sociedad moderna trae consigo nuevas formas de comprender y medir el mundo, pero también trae consigo ciertas preocupaciones o problemas. ^{[ 13 ]} Los investigadores de datos intentan sacar a la luz algunos de estos problemas en su afán por ser críticos con los datos.

Los problemas técnicos y organizativos pueden incluir el alcance del conjunto de datos, es decir, que haya demasiados o muy pocos datos para trabajar, lo que conlleva resultados inexactos. Resulta fundamental que los investigadores que trabajan con datos críticos consideren cuidadosamente la adecuación del volumen de datos para sus análisis.

La calidad de los datos en sí misma es otro aspecto preocupante. Los datos podrían ser de baja calidad, como por ejemplo un conjunto de datos incompleto o desordenado con valores faltantes o inexactos. Esto obligaría a los investigadores a realizar ediciones y suposiciones sobre los datos. Abordar estos problemas a menudo requiere que los académicos editen y hagan suposiciones sobre los datos para garantizar su fiabilidad y relevancia.

Los científicos de datos podrían tener acceso indebido al conjunto de datos real, lo que limitaría su capacidad para analizarlo. Linnet Taylor explica cómo pueden surgir lagunas en los datos cuando personas con distintos niveles de poder tienen ciertos derechos sobre sus fuentes de datos. Estas personas con poder pueden controlar qué datos se recopilan, cómo se muestran y cómo se analizan. ^{[ 14 ]}

Las capacidades del equipo de investigación también desempeñan un papel crucial en la calidad del análisis de datos. El equipo de investigación puede carecer de las habilidades o la capacidad organizativa adecuadas, lo que puede sesgar el análisis realizado sobre el conjunto de datos. Esto también puede dar lugar a falacias ecológicas , es decir, a una suposición sobre un individuo basada en datos o resultados de un grupo más amplio de personas. ^{[ 13 ]}

Estos desafíos técnicos y organizativos ponen de relieve la complejidad del trabajo con datos y subrayan la necesidad de que los investigadores se desenvuelvan en un entorno donde las cuestiones relacionadas con el alcance, la calidad, el acceso a los datos y las capacidades del equipo están intrínsecamente interrelacionadas.

Algunas de las preocupaciones normativas y éticas abordadas por Kitchin incluyen la vigilancia a través de los datos de una persona ( dataveillance ^{[ 7 ]} ), la privacidad de los datos de una persona se menciona en este artículo y uno de los puntos clave principales que la Alianza Nacional de Ciberseguridad toca es cómo los datos se están convirtiendo rápidamente en una necesidad a medida que las empresas los reconocen como un activo y se dan cuenta del valor potencial en recopilarlos, usarlos y compartirlos (Alianza Nacional de Ciberseguridad), la propiedad de los datos de una persona en el que Scassa escribe sobre cómo los debates sobre los derechos de propiedad de los datos se han estado avivando. En Europa, los legisladores han planteado la posibilidad de crear derechos de propiedad sui generis en los datos (Propiedad de los datos), la seguridad de los datos de una persona en el que las filtraciones de datos representan una amenaza tanto para individuos como para organizaciones. Obtenga más información sobre las filtraciones de seguridad de datos y lo que hacen los profesionales de la ciberseguridad para prevenirlas (Falta de seguridad de datos), gobernanza anticipatoria o corporativa en la que los datos corporativos y la información se usan indistintamente, pero no son los mismos términos. Hay diferencias entre estos, y su propósito también difiere. Los datos corporativos son una forma bruta de información sin significado ni utilidad propia a menos que se procesen y transformen en formas significativas (Datos e Información Corporativos), y la elaboración de perfiles de individuos a partir de sus datos. [5] Esto se enfatiza mucho en el colonialismo de datos (Colonialismo de datos), donde se fomenta la soberanía de los datos para las personas que están siendo perjudicadas, porque puede ser una herramienta poderosa para quienes representan esos datos. Un tema común en estos enfoques de soberanía de datos es cuándo y cómo recopilar, proteger y compartir datos solo con aquellos que tienen una necesidad legítima o apropiada de acceder a ellos. Todas estas preocupaciones deben ser consideradas por los investigadores de datos en su objetivo de ser críticos. “Las etiquetas que asignamos a los datos siempre serán más burdas y menos representativas de lo que describen de lo que nos gustaría que fueran. Tratar a los candidatos bajo una sola etiqueta, ya sea una etiqueta de género, ya sea una etiqueta de género, ya sea una etiqueta de género, ya sea una etiqueta de género, ya sea una etiqueta de género, ya sea una etiqueta de género, ya sea una etiqueta de género, ya sea una etiqueta de género, ya sea una etiqueta de grupo de edad, ya sea ya sea que sean consumidores de un producto en particular o ya sea que sean personas que padecen una enfermedad en particular, puede hacer que las personas sean tratadas como puntos de datos intercambiables y fungibles. Cada uno de esos individuos con esa etiqueta es único y tiene derecho a ser respetado como persona” (Vallor: Ética de los datos). Todas estas preocupaciones deben ser consideradas por los investigadores de datos en su objetivo de ser críticos.

Siguiendo la tradición de los estudios urbanos críticos, ^{[ 15 ]} otros académicos han planteado preocupaciones similares en torno a los datos y las tecnologías de la información digital en el contexto urbano. ^{[ 16 ] [ 17 ] [ 18 ]} Por ejemplo, Joe Shaw y Mark Graham han examinado estas cuestiones a la luz del « derecho a la ciudad » de Henri Lefebvre . ^{[ 19 ]}

Las aplicaciones más prácticas y preocupantes de los estudios de datos críticos se encuentran en la intersección entre ética y privacidad . Tendler, Hong, Kane, Kopaczynski, Terry y Emanuel explican que, en una era donde las instituciones privadas utilizan datos de clientes para marketing, investigación sobre sus deseos y necesidades, entre otros fines, es vital proteger los datos recopilados. En el ámbito de los estudios médicos, un paso fundamental para proteger a los participantes es el consentimiento informado. ^{[ 20 ]}

Existen numerosos sesgos algorítmicos y discriminación en los datos. Muchos destacan la importancia de esto en el ámbito sanitario debido a la gravedad de las decisiones basadas en datos sobre la atención al paciente, su uso y el motivo de su recopilación. Las instituciones y empresas pueden garantizar la equidad y combatir el racismo sistémico mediante estudios de datos críticos que pongan de manifiesto el sesgo algorítmico en la toma de decisiones basada en datos. Nong explica que un ejemplo muy conocido de esto son los algoritmos de las aseguradoras y el acceso a la atención sanitaria. Las compañías de seguros utilizan algoritmos para asignar recursos asistenciales entre sus clientes. Los algoritmos empleados demostraron un claro sesgo racial contra los pacientes negros, lo que provocó que los gastos sanitarios estimados se basaran en datos históricos estructurados por el racismo sistémico, perpetuando así dicho sesgo en la gestión del acceso a la atención sanitaria ^{[ 21 ].}

En muchos modelos de aprendizaje automático y artificiales entrenados, no existe un procedimiento estándar de informes que documente adecuadamente sus características de rendimiento. ^{[ 22 ]} Cuando estos modelos se aplican a escenarios de la vida real, las consecuencias tienen efectos importantes en el mundo real, sobre todo en el ámbito de la salud, la educación y la aplicación de la ley. Timnit Gebru explica cómo la falta de documentación suficiente para estos modelos dificulta que los usuarios evalúen su idoneidad para contextos específicos; aquí es donde entra en juego el uso de tarjetas de modelo. Las tarjetas de modelo pueden proporcionar registros breves que acompañen a los modelos de aprendizaje automático para brindar información sobre sus características, usos previstos, posibles sesgos y medidas de rendimiento. El uso de tarjetas de modelo tiene como objetivo proporcionar información importante a los usuarios sobre las capacidades y limitaciones de los sistemas de aprendizaje automático y las formas de promover resultados justos e inclusivos con el uso de la tecnología de aprendizaje automático. ^{[ 23 ]}

El marco del feminismo de datos promueve la reflexión sobre los datos y la ética, guiada por las ideas del feminismo interseccional. Este enfoque enfatiza las prácticas en las que la ciencia de datos refuerza las desigualdades de poder en el mundo y cómo los usuarios pueden utilizar los datos para desafiar el poder existente y comprometerse con la creación de datos equilibrados. Según D'ignazio y Klein, la interseccionalidad del feminismo de datos reconoce que los datos deben tener en cuenta factores interrelacionados como la identidad, la raza, la clase, etc., para proporcionar una representación completa y precisa de las experiencias de las personas. Este marco también destaca la importancia de diversas consideraciones éticas al abogar por el consentimiento informado, la privacidad y la responsabilidad que tienen los recolectores de datos hacia las personas de quienes se recopilan dichos datos. ^{[ 8 ]}

La vigilancia de datos consiste en el monitoreo de las personas a través de sus datos en línea. A diferencia de la vigilancia, la vigilancia de datos va mucho más allá del simple monitoreo de personas por razones específicas. La vigilancia de datos se infiltra en la vida de las personas mediante el seguimiento constante con fines generales y generalizados. Según Raley, se ha convertido en la forma preferida de monitorear a las personas a través de diversas presencias en línea. Este marco se centra en las formas de abordar y comprender cómo se recopilan, procesan y utilizan los datos, haciendo hincapié en las perspectivas éticas y la protección de la información individual. ^{[ 24 ]} La dataficación se centra en comprender el proceso asociado con la aparición y el uso de macrodatos. Según Jose y Dijck, resalta la transformación de las acciones sociales en datos digitales, lo que permite el seguimiento en tiempo real y el análisis predictivo. La dataficación enfatiza el proceso de recopilación de datos impulsado por el interés, ya que las actividades sociales cambian, mientras que la transformación en datos permanece inalterable. También examina cómo los cambios sociales se producen a medida que los datos digitales se vuelven más frecuentes en nuestra vida cotidiana. La dataficación subraya la compleja relación entre los datos y la sociedad y va de la mano con la vigilancia de datos. ^{[ 25 ]}

El marco de sesgos algorítmicos se refiere a los sesgos sistemáticos e injustos contra ciertos grupos o resultados en el proceso de toma de decisiones algorítmicas. Häußler afirma que los usuarios se centran en cómo los algoritmos pueden producir resultados discriminatorios, específicamente en lo que respecta a la raza, el género, la edad y otras características, y pueden reforzar ideas de inequidades sociales y prácticas injustas. En general, existen componentes clave dentro del marco: identificación de sesgos, calidad de los datos, evaluación del impacto, equidad e imparcialidad, transparencia, remediación e implicaciones. ^{[ 26 ]}

• Dalton, Craig y Jim Thatcher. "¿Cómo es un estudio crítico de datos y por qué nos importa? Siete puntos para un enfoque crítico de los macrodatos". Sitio web abierto de Society and Space (2014). Consultado el 23 de octubre de 2016.
• Elkins, James R. "El movimiento del pensamiento crítico: corrientes alternas en el pensamiento de un profesor". myweb.wvnet.edu (1999). Consultado el 29 de noviembre de 2016.
• Kitchin, Rob. La revolución de los datos: macrodatos, datos abiertos, infraestructuras de datos y sus consecuencias. Sage, 2014. Consultado el 23 de octubre de 2016.
• Kitchin, Rob y Tracey P. Lauriault. «Hacia estudios de datos críticos: Trazando y desentrañando conjuntos de datos y su funcionamiento». (2014). Recuperado el 23 de octubre de 2016.
• D'Ignazio, C., & F. Klein, L. (2020). Siete principios feministas interseccionales para obtener datos equitativos y útiles sobre la COVID-19. Sage, 2020. Recuperado el 7 de noviembre de 2023.
• Kitchin, Rob, Estudios de datos críticos: una guía de la A a la Z sobre conceptos y métodos , Wiley, 2024