autodeterminación digital

El concepto de autodeterminación se relaciona con los conceptos de subjetividad , dignidad y autonomía en la filosofía clásica centroeuropea y deriva de la concepción de libertad de Immanuel Kant . La autodeterminación presupone que los seres humanos son entidades capaces de razonar y responsabilizarse de sus propias acciones racionalmente elegidas y justificadas (autonomía), y deben ser tratados en consecuencia. Al formular su imperativo categórico (kategorischer Imperativ), Kant sugirió que los seres humanos, como condición de su autonomía, nunca deben ser tratados como un medio para un fin, sino como un fin en sí mismos. El modelo de autodeterminación también busca capacitar a los seres humanos autónomos para crear, elegir y perseguir su propia identidad, acción y decisiones de vida sin injerencias indebidas.

En psicología, el concepto de autodeterminación está estrechamente relacionado con la autorregulación y la motivación intrínseca , es decir, participar en un comportamiento o actividad porque es inherentemente gratificante hacerlo, en contraposición a estar impulsado por motivaciones o presiones externas, como incentivos monetarios, estatus o miedo. En este contexto, la autodeterminación y la motivación intrínseca están vinculadas a sentirse en control de las propias elecciones y comportamiento y se consideran necesarias para el bienestar psicológico. La teoría de la autodeterminación (TAD), introducida por primera vez por los psicólogos Richard Ryan y Eduard Deci en la década de 1980, ^{[ 3 ] [ 4 ]} y desarrollada posteriormente durante las décadas de 1990 y 2000, ha sido muy influyente en la configuración del concepto de autodeterminación en el campo de la psicología. La TAD de Ryan y Deci propuso que el comportamiento motivado de los individuos se caracteriza por tres necesidades básicas y universales: autonomía, competencia y relación. ^{[ 5 ]} La autonomía se refiere aquí a la necesidad de sentirse libre para decidir el propio curso de acción. La competencia se refiere a la necesidad de tener la capacidad y las habilidades para emprender y completar conductas motivadas de manera eficaz. Finalmente, la relación se refiere a la necesidad de experimentar relaciones sociales cálidas y afectuosas y sentirse conectado con los demás. Según la TDA, las tres necesidades deben satisfacerse para un funcionamiento óptimo y el bienestar psicológico. Sin embargo, otros psicólogos, como Barry Schwartz, han argumentado que si la autodeterminación se lleva al extremo, la libertad de elección puede convertirse en la «tiranía de la elección». ^{[ 6 ]} Desde esta perspectiva, tener demasiada autonomía y demasiadas opciones sobre nuestro curso de acción puede percibirse como abrumador, dificultar nuestras decisiones y, en última instancia, conducir a la angustia psicológica en lugar del bienestar.

El ejercicio de la autonomía individual está íntimamente ligado a los entornos digitales en los que se desenvuelve, los cuales pueden configurar su capacidad de elección , su acceso a la información y a las oportunidades, así como su exposición a daños y explotación, afectando así su capacidad para llevar una vida libre y autónoma. Diversas tecnologías digitales y su infraestructura subyacente, independientemente de sus interfaces humanas , ya sean visibles o indirectas , pueden contribuir a crear condiciones que potencien o limiten la autodeterminación individual en los ámbitos de la participación socioeconómica, la representación de la identidad cultural y la expresión política .

El alcance de las esferas mediadas tecnológicamente donde podría ejercerse tal influencia sobre las decisiones autodeterminadas de un individuo ha sido el foco de crecientes debates contemporáneos en diversas geografías. Uno de los debates se refiere a si la privacidad de un individuo , como forma de control sobre su información, ^{[ 41 ]} puede o no estar suficientemente protegida de la recolección de datos explotadora y la microsegmentación que pueden ejercer una influencia conductual indebida sobre el individuo como parte de un grupo objetivo. Los avances en esta área varían enormemente entre países y regiones donde existen diferentes marcos de privacidad y políticas de macrodatos, como el Reglamento General de Protección de Datos de la Unión Europea y el Sistema de Crédito Social de China , ^{[ 42 ]} que abordan los datos personales de manera distinta. ^{[ 43 ]}

Otros debates abarcan desde si la capacidad de decisión individual puede verse socavada por algoritmos predictivos ; ^{[ 44 ]} si un trabajador individual, particularmente en el Sur Global , ^{[ 45 ]} puede encontrar nuevas oportunidades de empleo, así como vulnerabilidades únicas en la economía digital ; si la autoexpresión de un individuo puede ser controlada de manera indebida y discriminatoria por tecnologías de vigilancia desplegadas en ciudades inteligentes , particularmente aquellas que integran capacidades de reconocimiento facial y de emociones que se ejecutan en datos biométricos , como una forma de panóptico digital ; ^{[ 46 ]} y si el acceso de un individuo a información diversa puede verse afectado por la brecha digital y el dominio de plataformas en línea centralizadas, lo que potencialmente limita la capacidad de imaginar su identidad ^{[ 47 ]} y tomar decisiones informadas.

Los medios digitales y la tecnología brindan a los niños la oportunidad de participar en diversas actividades que apoyan su desarrollo, aprendizaje y tiempo de ocio. ^{[ 48 ] [ 49 ]} Estas actividades incluyen el juego, las interacciones con otros, el intercambio y la creación de contenido, y la experimentación con diversas formas de identidades que ofrecen los medios con los que interactúan. ^{[ 50 ]} Al mismo tiempo, a pesar de las posibilidades que ofrecen los medios digitales, los niños son usuarios menores de 18 años, lo que puede tener consecuencias no deseadas en cómo consumen contenido, ser vulnerables y cómo las interacciones con la tecnología impactan el desarrollo emocional, conductual y cognitivo del niño . Por lo tanto, los llamados dentro de la investigación sobre alfabetización digital e interacción de los niños con la tecnología afirman que el diseño ético de la tecnología es esencial para diseñar entornos equitativos para los niños. ^{[ 51 ]} El trabajo en medios digitales y aprendizaje reconoce las posibilidades que ofrece la tecnología para crear formas amplias de aprendizaje y desarrollo para los niños, al mismo tiempo, presta atención a que los niños deben aprender alfabetizaciones digitales críticas que les permitan comunicarse, evaluar y construir conocimiento dentro de los medios digitales. ^{[ 52 ]} Además, se deben tener en cuenta las consideraciones éticas para apoyar la autodeterminación de los niños. ^{[ 53 ]} Por ejemplo, dentro de este conjunto de trabajos, se presta atención a la participación de los niños en el proceso de toma de decisiones del diseño de tecnología como un enfoque metodológico ético para involucrar el diseño de tecnología para niños. En otras palabras, involucrar a los niños en el proceso de diseño de tecnologías y pensar en las dimensiones éticas de las interacciones infantiles permite un cambio de la noción de vulnerabilidad hacia el apoyo a los niños para que ejerzan su autodeterminación y se posicionen como creadores activos de su propio futuro digital.

Más allá de las consideraciones éticas, la participación de los niños en las tecnologías digitales y las prácticas del mercado digital también tiene una gran relevancia para su privacidad y sus derechos de protección de datos . El uso de análisis predictivos y sistemas de software de seguimiento puede afectar las decisiones de los niños en la vida digital y real mediante la explotación de prácticas masivas de elaboración de perfiles. De hecho, debido al uso generalizado de estos sistemas algorítmicos tanto a nivel estatal como privado, la privacidad de los niños puede ser fácilmente vulnerada y pueden ser identificados personalmente en el ámbito digital. ^{[ 54 ]}

El artículo 12 de la Convención sobre los Derechos del Niño de la ONU implica una responsabilidad para los Estados de que los niños tengan derecho a formar y expresar sus propias opiniones "libremente, sin ninguna presión". ^{[ 55 ]} En el análisis literal, la presión se refiere a cualquier tipo de manipulación, opresión o explotación. Los Estados partes deben reconocer que todos los niños, independientemente de su edad, son capaces de formar y expresar sus propias opiniones autónomas. ^{[ 55 ]} Además, el Comité afirma que los niños deben tener derecho a ser escuchados incluso si no tienen una comprensión completa del tema que les afecta. ^{[ 55 ]} Asimismo, el artículo 3 de la Convención sobre los Derechos del Niño de la ONU establece que el interés superior del niño debe estar incorporado en los procesos de toma de decisiones privados y gubernamentales y debe ser una consideración primordial en relación con los servicios y procedimientos que involucren a los niños. ^{[ 56 ]} Al vincular estas responsabilidades a las prácticas digitales privadas y públicas, y como se destaca en la Observación General n.º 25 del Comité de los Derechos del Niño, los niños corren un gran riesgo en el ámbito digital debido a su identidad vulnerable y en evolución . ^{[ 57 ]} Resulta que con la proliferación de la vigilancia masiva y el análisis predictivo, se avecinan nuevas disputas para que los Estados protejan los derechos innatos de los niños. Con este fin, las recientes demandas colectivas y los esfuerzos de regulación de las empresas tecnológicas pueden ser ejemplos prometedores en el contexto de impulsar al sector privado a adoptar prácticas que preserven más la privacidad de los niños, lo que puede proporcionar un escudo de oro para su autonomía. ^{[ 58 ] [ 59 ]} En este ambiente regulado de manera imprudente, se ha vuelto más fácil obtener ganancias con la ayuda de la publicidad conductual dirigida a los niños. ^{[ 60 ]} Al no contar con prácticas adecuadas de consentimiento informado/ consentimiento parental , es muy fácil manipular y explotar las vulnerabilidades intrínsecas de los niños e inducirlos a elegir productos y aplicaciones específicos. Al respecto, el artículo 8 del RGPDEl RGPD establece límites de edad para el tratamiento de datos personales de menores relacionados con los servicios de la sociedad de la información (SSI). Conforme al artículo 8, cuando los menores tengan al menos 16 años, podrán dar su consentimiento para el tratamiento lícito de sus datos personales, siempre que este se limite a la finalidad del tratamiento (artículo 6, apartado 1, letra a). Para los menores de 16 años, el tratamiento solo será lícito y en la medida en que lo otorgue el titular de la patria potestad. Este límite de edad de 16 años podrá ser reducido a 13 años por los Estados miembros. Además, se subraya que los responsables del tratamiento deben adoptar las medidas necesarias para la protección de los datos de los menores. En este sentido, el considerando 38 establece que los menores merecen una protección específica en el uso, la recogida y el tratamiento de sus datos, teniendo en cuenta que son menos conscientes de las repercusiones, las consecuencias y las garantías relativas al tratamiento de sus datos personales. El RGPD también hace referencia a los menores en los artículos 40 y 57, y en los considerandos 58 y 75.

Más allá del RGPD, una de las normativas estructuradas es el Código de la Infancia de la Oficina del Comisionado de Información (ICO) del Reino Unido (anteriormente Código de Diseño Apropiado para la Edad), aprobado en septiembre de 2020. ^{[ 61 ]} El Código de la Infancia establece el límite de edad en 18 años con respecto a la capacidad de dar gratuitamente, al tiempo que implica la responsabilidad de los proveedores de servicios en línea como aplicaciones, juegos, dispositivos conectados, juguetes y nuevos servicios. Lo que diferencia al Código de la Infancia de las normativas de la UE es que se aplica a todos los servicios de la sociedad de la información a los que probablemente accedan los niños. Esto significa que, incluso si el servicio no está dirigido directamente a los niños, las partes que ofrecen esos servicios deben cumplir con el Código de la Infancia. El Código de la Infancia de la ICO también incorpora la noción del interés superior del niño, tal como se establece en la Convención sobre los Derechos del Niño de las Naciones Unidas. ^{[ 62 ]} Con un amplio alcance, la ICO enumera una serie de puntos rectores para que las organizaciones apoyen la noción del interés superior del niño, como reconocer que los niños tienen una capacidad evolutiva para formar sus propias opiniones y darles la debida importancia, proteger sus necesidades de desarrollar sus propias ideas e identidad, su derecho de reunión y juego. ^{[ 62 ]} El Código también amplía la protección de los datos personales de los niños con una serie de estándares clave como la minimización de datos, las evaluaciones de impacto de la protección de datos, el diseño apropiado para la edad, la privacidad por defecto y la transparencia.

La política del imperio ya impregna las historias compartidas. Las relaciones sociales desiguales entre pueblos colonizadores y colonizados se materializaron a través de la explotación, la segregación, la violencia epistémica, etc. En todo el mundo, estos discursos del colonialismo dominaron las percepciones y culturas de los pueblos. Los críticos poscoloniales argumentaron cómo los pueblos colonizados podían alcanzar la capacidad de acción cultural, económica y social frente a las estructuras y representaciones opresivas impuestas a sus vidas y sociedades. ^{[ 63 ]}

Sin embargo, a través de la temporalidad, el prefijo "post" implica que el período histórico de la colonización ha terminado y que los sujetos colonizados ahora están libres de sus discursos. Los académicos se han centrado en la continuidad del colonialismo incluso después de que haya terminado históricamente. Las estructuras y discursos neocoloniales ya forman parte de las diferentes culturas "poscoloniales". ^{[ 64 ]} La era poscolonial en la que los países colonizados han obtenido independencia y autonomía ha sido un medio para que la población recupere su propia autodeterminación y libertad. Sin embargo, las estructuras neocoloniales aún proliferan en las sociedades poscoloniales. Aunque el Estado-nación pueda promover la idea de autonomía y autodeterminación, siempre surgen nuevas formas de colonialismo. Esta dialéctica entre colonialismo y autodeterminación abarca una variedad de campos, cambiando en forma, enfoque y alcance con el tiempo. Se refleja en las complejas relaciones políticas y de políticas públicas entre los pueblos "poscoloniales" y el Estado, especialmente porque la mayoría de los Estados están replicando los sistemas legales y políticos de su antiguo colonizador.

La historia demuestra que las políticas estatales en ámbitos tan diversos como la salud, la educación, la vivienda, las obras públicas, el empleo y la justicia tuvieron, y siguen teniendo, efectos negativos sobre los pueblos indígenas tras la independencia. ^{[ 65 ]} Este efecto negativo se extiende a todos los pueblos anteriormente colonizados. Junto a estas tensiones políticas, los intereses económicos han manipulado los marcos jurídicos y de gobernanza para extraer valor y recursos de los antiguos territorios colonizados, a menudo sin la debida compensación ni consulta a las personas y comunidades afectadas. ^{[ 66 ]} En consecuencia, el colonialismo digital emerge como un discurso dominante en la esfera digital.

El colonialismo digital es una forma estructural de dominación ejercida mediante la propiedad y el control centralizados de los tres pilares fundamentales del ecosistema digital: software, hardware y conectividad de red. El control sobre estos tres últimos otorga a las grandes corporaciones un inmenso poder político, económico y social no solo sobre los individuos, sino incluso sobre los Estados-nación. ^{[ 67 ]} La asimilación a los productos tecnológicos, los modelos y las ideologías de las potencias extranjeras constituye una colonización de la era de internet. ^{[ 68 ]}

Hoy en día, se está produciendo una nueva forma de colonización corporativa. En lugar de la conquista de tierras, las grandes corporaciones tecnológicas están colonizando la tecnología digital. Un puñado de empresas multinacionales dominan las siguientes funciones: motores de búsqueda (Google); navegadores web (Google Chrome); sistemas operativos para teléfonos inteligentes y tabletas (Google Android, Apple iOS); sistemas operativos para ordenadores de escritorio y portátiles (Microsoft Windows); software de oficina (Microsoft Office, Google Docs); infraestructura y servicios en la nube (Amazon, Microsoft, Google, IBM); plataformas de redes sociales (Facebook, Twitter); transporte (Uber, Lyft); redes profesionales (Microsoft LinkedIn); vídeo en streaming (Google YouTube, Netflix, Hulu); y publicidad en línea (Google, Facebook), entre otras. Estas incluyen a las cinco corporaciones más ricas del mundo, con una capitalización de mercado combinada que supera los 3 billones de dólares. ^{[ 69 ]} Si algún Estado integra estos productos de las grandes tecnológicas en su sociedad, estas corporaciones multinacionales obtendrán un poder enorme sobre su economía y crearán dependencias tecnológicas que conducirán a una extracción perpetua de recursos. Esto se asemeja al período colonial, en el que se obligó a las colonias a depender de la economía del colonizador para su posterior explotación.

Bajo el colonialismo digital, la infraestructura digital en el Sur Global se diseña para satisfacer las necesidades de las grandes empresas tecnológicas, lo que permite la dominación económica y cultural al tiempo que impone formas de gobernanza privatizadas. ^{[ 70 ]} Para lograrlo, las grandes corporaciones diseñan tecnología digital para asegurar su propio dominio sobre funciones críticas en el ecosistema tecnológico. Esto les permite acumular ganancias a partir de los ingresos derivados de la renta; ejercer control sobre el flujo de información, las actividades sociales y una plétora de otras funciones políticas, sociales, económicas y militares que utilizan sus tecnologías.

El colonialismo digital depende del código. En su obra *Código: y otras leyes del ciberespacio*, Lawrence Lessig argumentó que el código informático moldea las reglas, normas y comportamientos de las experiencias mediadas por ordenador. En consecuencia, «el código es ley» en el sentido de que tiene el poder de usurpar normas legales, institucionales y sociales, impactando los ámbitos político, económico y cultural de la sociedad. Esta perspectiva crítica se ha aplicado en campos como los derechos de autor, la regulación de la libertad de expresión, la gobernanza de Internet, la cadena de bloques, la privacidad e incluso los agravios. ^{[ 71 ]} Esto es similar a la arquitectura en el espacio físico durante el colonialismo. Los edificios e infraestructuras se construyeron para reforzar el dominio y el alcance del colonialismo. ^{[ 72 ]}

Los pueblos poscoloniales se enfrentan, pues, a múltiples limitaciones digitales en su acceso y uso de las infraestructuras digitales en red. Esto amenaza con reflejar y reestructurar las relaciones existentes de desigualdad social basadas en el colonialismo y los continuos procesos de neocolonialismo. Los pueblos indígenas son plenamente conscientes de este potencial y, por ello, trabajan con diversos socios para descolonizar la esfera digital. Están emprendiendo una variedad de proyectos que representan sus experiencias diversas y localizadas, junto con un deseo común de autodeterminación. Las comunidades indígenas rurales y remotas se enfrentan a problemas persistentes de acceso a lo digital, asociados a los efectos históricos y actuales del colonialismo. Las comunidades indígenas remotas se están volviendo «desconectadas por diseño» porque su conexión a internet se ha visto obstaculizada. ^{[ 73 ]} Los pueblos indígenas están afirmando su autodeterminación digital mediante el uso de estas plataformas para construir comunidades en línea, expresar identidades virtuales y representar su cultura virtualmente. Por lo tanto, ya no son estáticos como fuera de línea, sino que se están convirtiendo en un «individualismo en red». ^{[ 74 ]} Su interacción con la esfera digital resiste las representaciones impuestas de sus identidades y desterritorializa las concepciones de las comunidades virtuales. En consecuencia, los pueblos anteriormente colonizados participan constantemente en el proceso de descolonización de los discursos neocoloniales latentes que dominan internet.

El apartheid digital también ha sido un concepto clave en los debates sobre la autodeterminación digital . Para autores como Christian Fuchs, el apartheid digital significa que "ciertos grupos y regiones del mundo son sistemáticamente excluidos del ciberespacio y de los beneficios que este puede generar". ^{[ 75 ]}

Brown y Czerniewicz (2010), basándose en un proyecto de investigación que analiza el acceso de los estudiantes de educación superior en Sudáfrica a las Tecnologías de la Información y la Comunicación (TIC), destacan que, si bien la edad o los aspectos generacionales han sido una característica de las brechas digitales , ahora estas últimas son más bien una cuestión de acceso y oportunidad, afirmando que en la actualidad "el apartheid digital está vivo y coleando". ^{[ 76 ]}

Tomando prestado de Graham (2011), ^{[ 77 ]} y extendiéndolo a la representación de las condiciones que rodean la educación superior en la Sudáfrica post-apartheid , Ashton et al. (2018) ^{[ 78 ]} destacan el concepto de apartheid digital como un proceso multidimensional con tres dimensiones: una dimensión material (que incluye el acceso a infraestructura , dispositivos, cobertura celular , electricidad ), una dimensión de habilidades (que incluye el legado educativo en cuanto a capacitación informática , capital social con respecto a las habilidades informáticas de la familia / comunidad ) y una dimensión virtual (que incluye idioma , cultura y relevancia contextual). Los autores argumentan que "La dimensión virtual surge del acto intencional de ' redlining digital ' que adopta varias formas. Puede ser bajo el pretexto de proteger a una organización del spam y los ciberataques ilícitos y dañinos , pero tiene el resultado secundario de bloquear o filtrar a las comunidades que solo tienen acceso a través de portales más baratos". ^{[ 78 ]} También incluye la influencia de la internet occidentalizada y en inglés que influye aún más en la visibilidad del contenido . La dimensión de habilidades surge de la comprensión de que las clases de TIC no formaban parte del currículo hasta hace poco y, por lo tanto, el desarrollo de habilidades permaneció poco expuesto y restringido. Los autores se refieren a la dimensión material como la preocupación más citada con respecto a la introducción de la tecnología en el currículo, argumentando que "la falta de infraestructura eléctrica en áreas socioeconómicas bajas y los costos exorbitantes de los datos afectan la capacidad de algunos estudiantes para acceder a sus recursos de aprendizaje". ^{[ 78 ]}

Desde 2019, este concepto que significa ventajas para algunos y desposesión para otros también se ha utilizado para caracterizar los cortes de internet y los bloqueos de comunicaciones en Jammu y Cachemira . La región, disputada y reclamada en su totalidad tanto por India como por Pakistán y escenario de un conflicto armado activo , presenció cómo el Estado indio impuso un apagón total de las comunicaciones y un corte de internet en Jammu y Cachemira en la noche del 4 al 5 de agosto de 2019 como parte de sus medidas unilaterales para eliminar la naturaleza semiautónoma del territorio en disputa de Jammu y Cachemira. ^{[ 79 ]} El internet 2G de baja velocidad se restableció en enero de 2020 ^{[ 80 ]} mientras que el internet 4G de alta velocidad se restableció en febrero de 2021. ^{[ 81 ]} Un informe de 2019 señala que entre 2012 y 2019, hubo 180 cortes de internet en la región. ^{[ 82 ]} India también encabezó la lista de 29 países que habían interrumpido el acceso a internet para las personas en el año 2020. ^{[ 83 ]} El informe de Access Now destacó: "India había instituido lo que se había convertido en un cierre punitivo perpetuo en Jammu y Cachemira a partir de agosto de 2019. Los residentes de estos estados habían experimentado previamente cierres periódicos frecuentes, y en 2020 se vieron privados de un internet confiable, seguro, abierto y accesible de forma continua". ^{[ 83 ]} Al situar estos cierres frecuentes en el contexto del conflicto en curso en Cachemira, el informe El asedio de internet de Cachemira (2020) de la Coalición de la Sociedad Civil de Jammu y Cachemira argumenta que con los frecuentes cierres de internet, el gobierno indio ha estado implementando en estas regiones un "apartheid digital", "una forma de trato discriminatorio sistémico y generalizado y castigo colectivo ". ^{[ 84 ]} Según el informe, "los cortes de internet frecuentes y prolongados constituyen un profundo apartheid digital al privar sistemática y estructuralmente a la población de Cachemira de los medios para participar en un mundo altamente interconectado y digitalizado". ^{[ 84 ]}

Esta censura y privación sistemática no solo resultó en la exclusión colectiva de la población de participar en el ciberespacio , sino que, como se evidenció, paralizó a las empresas de TI y a las startups en Cachemira. Se observó que afectó al menos a mil empleados que trabajaban en este sector ^{[ 85 ]} tan solo en el tercer mes del apagón de internet más largo del mundo, que comenzó en la noche del 4 al 5 de agosto de 2019 en Jammu y Cachemira. ^{[ 84 ]} En una declaración, los relatores especiales de la ONU se refirieron al bloqueo de las comunicaciones como un castigo colectivo sin ningún pretexto de delito precipitante. «El cierre de internet y de las redes de telecomunicaciones , sin justificación del Gobierno, es incompatible con las normas fundamentales de necesidad y proporcionalidad», dijeron los expertos. ^{[ 86 ]} Un reportaje que citaba la historia de un emprendedor que había tenido éxito con una startup señalaba que "Internet es el oxígeno para las startups. El Centro cortó ese suministro el 5 de agosto. El mundo virtual era nuestro espacio para crecer. Ahora eso se ha ido. Todos los empleados y productores se han quedado sin trabajo [...] Tengo que trabajar como sea para compensar el daño causado por la pérdida de clientes, los pedidos no entregados y los bienes acumulados tras la falta de disponibilidad de Internet". ^{[ 87 ]} En junio de 2020, se informó por primera vez de cómo las empresas no locales pudieron obtener la mayoría de los contratos en línea para la extracción de bloques minerales, ya que los locales quedaron en desventaja debido a la prohibición de Internet de alta velocidad. ^{[ 88 ]}

El efecto de este apartheid digital también se observó durante el confinamiento inducido por la pandemia de COVID-19, que dejó la infraestructura sanitaria paralizada, ya que los médicos se quejaron de no poder acceder a información ni asistir a capacitaciones sobre el coronavirus debido a las restricciones de internet. El presidente de la Asociación de Médicos señaló que las campañas de concientización sobre el virus que se llevaron a cabo en otros lugares eran imposibles de realizar en Cachemira. «Queremos educar a la gente a través de videos, lo cual no es posible con una velocidad 2G. Estamos limitados por la falta de internet de alta velocidad». ^{[ 89 ]} Expertos en salud y residentes locales advirtieron que el bloqueo de internet estaba obstaculizando la lucha contra el coronavirus en la región. ^{[ 90 ]} El bloqueo de internet también afectó la educación en todos los niveles en la región. Los informes de prensa señalaron cómo la educación cachemir se quedó rezagada mientras que la vida en otros lugares se trasladaba en línea para cumplir con las directrices de quedarse en casa durante la pandemia. ^{[ 91 ]} Un reportaje periodístico publicado tras un año de bloqueo de las comunicaciones y la consiguiente restricción del internet de alta velocidad destacó que había "devastado la salud , la educación y el emprendimiento " en la región. ^{[ 92 ]}

Promover conceptos y derechos estrechamente relacionados con la autodeterminación digital es un objetivo común de las iniciativas regulatorias en diversos ordenamientos jurídicos. Partiendo del marco conceptual de los derechos humanos y de una noción bien establecida de autodeterminación informacional , la autodeterminación digital adquiere gradualmente un papel cada vez más importante como concepto que engloba valores y virtudes que siguen siendo muy relevantes en el contexto de la sociedad global interconectada , como la autonomía , la dignidad y la libertad .

La importancia de incorporar los valores fundamentales en los marcos legislativos que regulan la esfera digital ha sido destacada en numerosas ocasiones por académicos, ^{[ 93 ]} autoridades públicas y representantes de diversas organizaciones.

La política jurídica de la UE, si bien no hace referencia explícita al derecho a la autodeterminación digital, persigue objetivos estrechamente relacionados. Una de las premisas fundamentales de la Estrategia Digital Europea es fomentar el desarrollo de tecnología fiable que «funcione para las personas». ^{[ 94 ]} Su objetivo es promover, entre otras cosas, «servicios públicos y administración digitales centrados en las personas», así como «principios éticos para algoritmos centrados en las personas».

La UE ha delineado estos objetivos políticos en varias agendas regulatorias, entre ellas la Estrategia Digital de la Comisión Europea , la Estrategia Europea de Datos y el Libro Blanco de la UE sobre Inteligencia Artificial . Posteriormente, la UE ha perseguido los objetivos mencionados mediante la adopción o propuesta de varios instrumentos jurídicos, entre los que se incluyen:

• El Reglamento General de Protección de Datos (RGPD ) tiene como objetivo establecer "normas relativas a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y normas relativas a la libre circulación de datos personales", protegiendo "los derechos y libertades fundamentales de las personas físicas y, en particular, su derecho a la protección de datos personales" y garantizando "la libre circulación de datos personales dentro de la Unión". Las principales disposiciones relativas al concepto de autodeterminación digital incluyen principios de tratamiento de datos (por ejemplo, equidad, transparencia y rendición de cuentas), fundamentos para el tratamiento legítimo de datos (en particular, el consentimiento y los intereses legítimos), derechos de los interesados ​​(por ejemplo, el derecho a ser informado, el derecho al olvido , el derecho de oposición), el derecho a la portabilidad de los datos, obligaciones asociadas con la privacidad desde el diseño y la privacidad por defecto, derechos y obligaciones en relación con el tratamiento algorítmico de datos (en particular, la elaboración de perfiles y la toma de decisiones automatizada) y obligaciones en relación con las transferencias de datos fuera del Espacio Económico Europeo .
• El Reglamento sobre privacidad electrónica , una propuesta legislativa destinada a regular las cuestiones relativas a las comunicaciones electrónicas dentro de la UE, incluyendo la confidencialidad de las comunicaciones, los controles de privacidad a través del consentimiento electrónico y los navegadores, y las cookies .
• La Ley de Servicios Digitales , una propuesta legislativa destinada a armonizar las normas relativas a los servicios de intermediación digital, en particular el contenido ilegal, la publicidad transparente, la desinformación en las plataformas de redes sociales y los sistemas de recomendación de contenido, preservando al mismo tiempo la libertad de expresión . La Ley de Servicios Digitales es una de las dos propuestas del paquete legislativo .
• La Ley de Mercados Digitales , una propuesta legislativa destinada a regular el desempeño de las grandes plataformas en línea que actúan como "guardianes" en el Mercado Único Europeo , garantizando así la competencia leal y la igualdad de condiciones. La DMA es una de las dos propuestas del paquete de la Ley de Servicios Digitales .
• El Reglamento sobre Inteligencia Artificial , una propuesta legislativa destinada a establecer requisitos y obligaciones claros para desarrolladores, implementadores y usuarios en relación con usos específicos de la IA , introduce un catálogo de prácticas prohibidas que distorsionan el comportamiento del individuo de manera que puedan causar daño físico o mental.
• La Ley de Gobernanza de Datos y la Directiva de Datos Abiertos son propuestas legislativas destinadas a crear sistemas fiables de intercambio de datos que permitan a los ciudadanos de la UE decidir sobre el intercambio de sus datos entre sectores y Estados miembros, al tiempo que aumentan el valor económico anual del intercambio de datos en la UE y generan beneficios sociales y económicos. ^{[ 95 ]}
• La Directiva sobre derechos de autor [ ^{96 ] tiene como objetivo proteger la propiedad intelectual y, por consiguiente, la obra intelectual. Sin embargo, plantea un difícil y controvertido equilibrio con otro aspecto de la} autodeterminación, que es la libertad de expresión (especialmente el artículo 17).
• La Directiva de Servicios de Medios Audiovisuales, ^{[ 97 ]} regula la libertad de información en el ámbito de los Servicios de Medios Audiovisuales, así como la responsabilidad de las plataformas.

Estados Unidos aún no ha promulgado una ley integral de privacidad de la información ; la legislación relativa a los datos y los derechos digitales existe actualmente tanto a nivel estatal como federal y suele ser específica para cada sector. En Estados Unidos, la Comisión Federal de Comercio (FTC) se encarga de supervisar la protección de la privacidad y la seguridad digital de los consumidores, y establece principios de prácticas justas de información para la gobernanza de los espacios en línea. ^{[ 98 ]}

La legislación federal incluye la Ley de Protección de la Privacidad Infantil en Internet (COPPA) , que regula la recopilación de información personal identificable de menores de trece años en línea. La Ley de Portabilidad y Responsabilidad del Seguro Médico (HIPAA) incluye estándares federales para proteger la privacidad y la seguridad de los datos personales de salud almacenados electrónicamente. La Ley de Privacidad de los Derechos Educativos y de la Familia (FERPA) rige el acceso y la divulgación de los expedientes académicos de los estudiantes. Si bien la legislación estatal varía en cuanto al nivel de protección que ofrece, la Ley de Privacidad del Consumidor de California (CCPA) de 2018 otorga a los consumidores de California el derecho a acceder a sus datos, conocer y eliminar la información personal recopilada por las empresas, optar por no participar en la venta de esta información y el derecho a no ser discriminados por ejercer estos derechos.

Inteligencia artificial y autodeterminación digital

La proliferación de la inteligencia artificial (IA), no como una tecnología única sino como un conjunto de tecnologías, ^{[ 99 ]} está configurando cada vez más los espacios mediados tecnológicamente en los que individuos y comunidades llevan a cabo sus vidas. Desde la recomendación algorítmica en el comercio electrónico ^{[ 100 ]} y las plataformas de redes sociales , ^{[ 101 ]} la vigilancia inteligente en la policía, ^{[ 102 ]} hasta la asignación automatizada de recursos en los servicios públicos, ^{[ 103 ]} el alcance de las posibles aplicaciones de IA que pueden influir en la autonomía de un individuo es objeto de debate constante, considerando la generalizada digitalización de la vida de las personas en las esferas socioeconómicas y políticas actuales.

Por ejemplo, el aprendizaje automático , un subcampo de la inteligencia artificial, "nos permite extraer información de los datos y descubrir nuevos patrones, y es capaz de convertir datos aparentemente inocuos en datos personales sensibles", ^{[ 104 ]} lo que significa que la privacidad y el anonimato de un individuo pueden ser vulnerables fuera del dominio de datos original, como la recopilación de sus datos de redes sociales para propaganda computacional en las elecciones basada en la microsegmentación . ^{[ 105 ]}

Otro ámbito en el que los sistemas de IA pueden afectar el ejercicio de la autodeterminación es cuando los conjuntos de datos con los que se entrenan los algoritmos reflejan las estructuras de desigualdad existentes , reforzando así la discriminación estructural que limita el acceso de ciertos grupos a un trato justo y a oportunidades. En Estados Unidos , una herramienta de reclutamiento de IA utilizada por Amazon ha demostrado discriminar a las mujeres solicitantes de empleo, ^{[ 106 ]} mientras que una herramienta de modelado basada en IA utilizada por el Departamento de Servicios Humanos del Condado de Allegheny, Pensilvania , para detectar posibles casos de abuso infantil ha demostrado perfilar desproporcionadamente a las personas pobres y a las minorías raciales, lo que plantea interrogantes sobre cómo las variables predictivas en los algoritmos podrían ser a menudo "abstracciones" que "reflejan prioridades y preocupaciones". ^{[ 107 ]}

Panorama actual de los principios de IA relevantes para la autodeterminación digital.

La forma en que los estados intentan gobernar la industria de la IA puede influir en cómo se desarrollan, prueban y operan las aplicaciones de IA, así como en los marcos éticos relevantes para muchas formas de intereses humanos, afectando de este modo el grado de autodeterminación digital que ejercen los individuos y las comunidades.

En los últimos años, se ha producido una proliferación de documentos de principios y directrices de alto nivel, ^{[ 108 ]} que ofrecen sugerencias para políticas del sector público y códigos de conducta del sector privado de manera no vinculante. En comparación con las leyes vinculantes promulgadas por los estados, el panorama de los principios éticos de la IA presenta una imagen más diversa, con organizaciones gubernamentales y no gubernamentales, incluidas empresas privadas, instituciones académicas y la sociedad civil, que desarrollan activamente el ecosistema. Un informe de 2020 de las Naciones Unidas identificó "más de 160 conjuntos de principios éticos y de gobernanza de la IA a nivel organizacional, nacional e internacional en todo el mundo, aunque no existe una plataforma común que agrupe estas iniciativas separadas". ^{[ 109 ]}

A medida que avanzan las investigaciones, han surgido temas comunes en los principios de la IA, muchos de ellos estrechamente vinculados a las diversas condiciones de la autodeterminación digital, como el control sobre los propios datos, la protección contra el trato discriminatorio y el acceso equitativo a los beneficios que ofrece la IA. Una publicación de 2020 del Centro Berkman Klein para Internet y la Sociedad de la Universidad de Harvard estudió treinta y seis documentos sobre principios de IA "especialmente visibles o influyentes", elaborados por actores gubernamentales y no gubernamentales de diversas regiones geográficas, e identificó ocho temas clave:

• Privacidad
• Responsabilidad
• Seguridad y protección
• Transparencia y explicabilidad
• Equidad y no discriminación
• Control humano de la tecnología
• Responsabilidad profesional
• Promoción de los valores humanos

Sin embargo, el informe también señala "una brecha amplia y espinosa entre la articulación de estos conceptos de alto nivel y su logro real en el mundo real". ^{[ 110 ]}

Ejemplos de principios de IA intergubernamentales y gubernamentales

Actualmente, pocos principios de gobernanza de la IA cuentan con reconocimiento internacional. Los " Principios de la OCDE sobre IA", adoptados por los Estados miembros de la OCDE y otros nueve países no pertenecientes a la OCDE en mayo de 2019, integran elementos relevantes para la autodeterminación digital, como el "crecimiento inclusivo", el "bienestar", los "valores centrados en el ser humano y la equidad", al tiempo que enfatizan la capacidad de las personas para apelar y "cuestionar el resultado del sistema de IA" y la adhesión del desarrollo de la IA a los "derechos laborales reconocidos internacionalmente". ^{[ 111 ]}

A nivel nacional, numerosas políticas estatales de IA hacen referencia a principios éticos de IA, aunque de forma irregular. Dichas referencias pueden consistir en documentos independientes. Por ejemplo, el gobierno de Japón estableció sus "Principios Sociales de la IA Centrada en el Ser Humano" ^{[ 112 ]} , que están estrechamente vinculados a su "Estrategia de IA 2019: IA para Todos: Personas, Industrias, Regiones y Gobiernos" ^{[ 113 ]} , y a un conjunto independiente de Directrices para la Utilización de la IA que fomentan la adhesión voluntaria y enfatizan que la IA debe utilizarse para "ampliar las capacidades y la creatividad humanas", no debe "vulnerar la libertad, la dignidad ni la igualdad de las personas" y se adhiere al "principio de dignidad humana y autonomía individual" ^{[ 114 ] .}

Los principios de la IA también pueden incorporarse a una estrategia nacional de IA, que se centra principalmente en instrumentos políticos que impulsan la IA, como la inversión en educación STEM y las asociaciones público-privadas. Por ejemplo, la estrategia de IA de la India , «Estrategia Nacional para la Inteligencia Artificial», publicada en junio de 2018, identifica áreas clave de alta prioridad nacional para el desarrollo de la IA (atención médica, agricultura, educación, infraestructura urbana/de ciudades inteligentes, transporte y movilidad), con temas éticos como la privacidad y la equidad integrados en una sección prospectiva. ^{[ 115 ]}

Oportunidades y desafíos para que los principios de la IA aborden la autodeterminación.

Los principios de IA no vinculantes sugeridos por actores dentro o fuera del gobierno a veces pueden concretarse aún más en políticas o regulaciones específicas. En 2020, el organismo asesor del gobierno del Reino Unido sobre el uso responsable de la IA, el Centro para la Ética de los Datos y la Innovación, propuso medidas específicas para que el gobierno, los reguladores y la industria aborden el sesgo algorítmico en los sectores de servicios financieros, gobierno local, policía y reclutamiento, ^{[ 116 ]} siendo cada área relevante para cómo las personas llevan a cabo sus formas de vida y acceden a oportunidades socioeconómicas sin ser sometidas a un trato injusto.

La representación cultural y geográfica se ha señalado como un desafío para garantizar que las incipientes normas de IA consideren adecuadamente las oportunidades y los riesgos únicos que enfrenta la población mundial, la cual ejerce su autonomía y libertad en regímenes políticos muy diferentes con diversos grados de estado de derecho. En 2020, un informe publicado por el Consejo de Europa revisó 116 documentos de principios de IA y concluyó que «estos documentos de derecho indicativo se están desarrollando principalmente en Europa, América del Norte y Asia», mientras que «el Sur global está actualmente subrepresentado en el panorama de las organizaciones que proponen directrices éticas de IA». ^{[ 117 ]}

Entre los desafíos que plantea la inteligencia artificial, las implicaciones éticas y estratégicas de la toma de decisiones son cada vez más significativas. En el reciente libro Faut-il encore décider  ? La décision humaine à l'eure de l'intelligence artificielle, Éric Hazan y Olivier Sibony examinan cómo los sistemas algorítmicos están transformando el juicio humano en áreas como la medicina, las finanzas, la justicia y la contratación, al tiempo que cuestionan qué decisiones deberían seguir siendo una responsabilidad fundamentalmente humana. ^{[ 118 ]}