Filtración de Facebook de 2021

El New York Times señaló discusiones internas donde los empleados expresaron su preocupación de que Facebook estuviera difundiendo contenido sobre la teoría de la conspiración QAnon más de un año antes de las elecciones estadounidenses de 2020. Después de las elecciones, un científico de datos mencionó en una nota interna que el 10 por ciento de todas las visualizaciones de contenido político en EE. UU. eran publicaciones que alegaban que las elecciones fueron fraudulentas . ^{[ 21 ]} Entre las diez denuncias anónimas de denunciantes que Whistleblower Aid presentó ante la SEC en nombre de Haugen, una denuncia alegaba que Facebook engañó a los inversores de la empresa y al público en general sobre su papel en la perpetuación de la desinformación relacionada con las elecciones de 2020 y el extremismo político que causó el ataque al Capitolio de los Estados Unidos el 6 de enero . ^{[ 1 ] [ 4 ]} Haugen trabajó en Facebook desde junio de 2019 hasta mayo de 2021, comenzando en el Equipo de Integridad Cívica de la compañía, que se centraba en investigar y abordar los problemas electorales mundiales en la plataforma, así como la forma en que la plataforma podría usarse para difundir desinformación y noticias falsas políticas , para incitar a la violencia y ser utilizada indebidamente por gobiernos malintencionados, hasta que la compañía disolvió el equipo en diciembre de 2020. ^{[ 22 ] [ 23 ]}

En las semanas posteriores a las elecciones presidenciales de EE. UU. de 2020 , Facebook comenzó a revertir muchas medidas de aplicación de políticas de contenido que había implementado durante las elecciones, a pesar de que los datos de seguimiento internos de la empresa mostraban un aumento en el contenido que violaba las políticas en la plataforma, mientras que la cuenta de Facebook de Donald Trump había sido incluida en la lista blanca del programa XCheck de la empresa. ^{[ 23 ] [ 24 ]} Otra de las denuncias de denunciantes que Haugen presentó ante la SEC alegaba que la empresa engañó a los inversores y al público en general sobre la aplicación de sus términos de servicio debido a dicha inclusión en la lista blanca bajo el programa XCheck. ^{[ 1 ] [ 4 ]} Haugen fue entrevistada por videoconferencia por el Comité del 6 de enero en noviembre de 2021 sobre su permanencia en Facebook, los documentos de la empresa que proporcionó al Congreso, la estructura corporativa de la empresa y su testimonio ante el Congreso el mes anterior, pero ninguna de la información que proporcionó al Comité se incluyó en su informe final. ^{[ 25 ] [ 26 ]}

Los archivos muestran que Facebook (ahora Meta) había estado realizando investigaciones internas sobre cómo Instagram afecta a los usuarios jóvenes desde 2018. Si bien los hallazgos apuntan a que Instagram es perjudicial para una gran parte de los usuarios jóvenes, las adolescentes fueron las más perjudicadas. Investigadores dentro de la empresa informaron que "empeoramos los problemas de imagen corporal para una de cada tres adolescentes". Además, la investigación interna reveló que los adolescentes varones también se vieron afectados por la comparación social negativa, citando al 14% de los varones en los EE. UU. en 2019. ^{[ 27 ]} Se concluyó que Instagram contribuye a problemas más específicos del uso de su aplicación, como la comparación social entre adolescentes. ^{[ 28 ]} Facebook publicó parte de su investigación interna el 29 de septiembre de 2021, diciendo que estos informes tergiversaban el propósito y los resultados de su investigación. ^{[ 29 ]}

Los archivos muestran que Facebook formó un equipo para estudiar a los preadolescentes, estableció una meta de tres años para crear más productos para este grupo demográfico y encargó informes estratégicos sobre las perspectivas comerciales a largo plazo de atraer a este grupo demográfico. Algunas investigaciones realizadas por Facebook incluyen estudios sobre el uso de aplicaciones de redes sociales por parte de preadolescentes y las respuestas de los padres. Las leyes federales de privacidad, incluida la Ley de Protección de la Privacidad Infantil en Línea (COPPA), restringen la recopilación de datos de niños menores de 13 años. Documentos internos de abril de 2021 mostraron planes para crear aplicaciones dirigidas a niños de entre seis y 17 años; en septiembre, el director de Instagram anunció la suspensión del desarrollo de dichas aplicaciones. ^{[ 30 ]} Un documento de Facebook de 2020 afirma: "¿Por qué nos importan los preadolescentes?" y responde a esa pregunta diciendo que "Son una audiencia valiosa pero sin explotar". ^{[ 31 ]}

Un memorando interno al que tuvo acceso The Washington Post reveló que Facebook estaba al tanto de discursos de odio y llamados a la violencia contra grupos como musulmanes y cachemires en 2019, incluyendo publicaciones de fotos de montones de cuerpos de cachemires muertos con subtítulos glorificadores en su plataforma en India. Aun así, ninguno de sus editores fue bloqueado. ^{[ 32 ]} Los documentos revelan que Facebook ha respondido a estos incidentes eliminando publicaciones que violan su política, pero no ha hecho ningún esfuerzo sustancial para prevenir ofensas repetidas. ^{[ 32 ]} Dado que el 90% de los usuarios mensuales de Facebook ahora se encuentran fuera de los EE. UU. y Canadá, Facebook afirmó que las barreras del idioma eran un obstáculo que impedía una reforma generalizada (alrededor de 2019-2021).

En 2015, además del botón "Me gusta" en las publicaciones, Facebook introdujo un conjunto de otras opciones de reacción emocional: me encanta, me divierte, me gusta, me sorprende, me entristece y me enoja. ^{[ 33 ]} El Washington Post informó que durante tres años, los algoritmos de Facebook promovieron las publicaciones que recibían las nuevas reacciones (incluida la reacción de "enojado") de sus usuarios; otorgándoles una puntuación cinco veces mayor que la de los "Me gusta" tradicionales. Años después, los investigadores de Facebook señalaron que las publicaciones con reacciones de "enojado" tenían muchas más probabilidades de ser tóxicas, polarizantes, falsas o de baja calidad. Ignorando frecuentes llamados internos, la compañía no diferenció la reacción de "enojado" de otras reacciones hasta septiembre de 2019, cuando su valor se redujo a cero (solo después de darse cuenta de la insatisfacción de los usuarios por las reacciones de enojo que recibían sus publicaciones). Ha habido otros casos en los que Facebook priorizó nuevas funciones que quería promover, a pesar de que esto resultó ser la promoción de material tóxico o radicalizador. ^{[ 34 ]}

En 2018, Facebook renovó su algoritmo de Noticias, implementando uno nuevo que priorizaba las "Interacciones Sociales Significativas" o "MSI". Este nuevo algoritmo aumentó la importancia del contenido compartido, una medida que buscaba "revertir la disminución de comentarios y fomentar la publicación de contenido más original". Si bien el algoritmo tuvo éxito, se observaron consecuencias como informes de usuarios sobre la disminución de la calidad del feed y un aumento de la frustración en la plataforma. Documentos filtrados revelan que los empleados presentaron varios cambios potenciales para solucionar algunos de los problemas detectados en el algoritmo. Sin embargo, los documentos afirman que Mark Zuckerberg rechazó los cambios propuestos por temor a que pudieran reducir la interacción de los usuarios con Facebook. Los documentos también señalan otro estudio realizado por Facebook en 2019, donde se creó una cuenta falsa con sede en India para analizar el tipo de contenido que se presentaba y con el que se interactuaba. Los resultados del estudio mostraron que, en tres semanas, el feed de noticias de la cuenta falsa presentaba pornografía y estaba "lleno de contenido polarizador y explícito, discursos de odio y desinformación", según un informe interno de la compañía. ^{[ 35 ]}

Politico cita a varios empleados de Facebook que expresan su preocupación por la voluntad y capacidad de la empresa para responder a los daños causados ​​por la plataforma . Una publicación de 2020 dice: "No es normal que un gran número de personas del equipo de 'seguridad del sitio' se vayan diciendo: 'Oye, estamos empeorando el mundo activamente, para que lo sepas'. Cada vez que se plantea esto, se lo resta importancia con un 'oye, la gente cambia de trabajo todo el tiempo', pero esto NO es normal". Otra publicación de 2019 dice: "Tenemos métricas razonables que nos pueden decir cuándo es probable que un cambio de clasificación determinado esté causando daños a la integridad; incluso con baja precisión y exhaustividad, podemos hacernos una idea decente de si un lanzamiento está aumentando el discurso de odio, la desinformación u otros daños. Sin embargo, no tenemos una forma de degradar este contenido de manera efectiva y selectiva... e incluso si la tuviéramos, a menudo no podríamos lanzarlo debido a preocupaciones sobre las políticas". ^{[ 36 ]}

En 2019, tras las preocupaciones surgidas sobre el uso de Facebook e Instagram para el tráfico de empleadas domésticas en Oriente Medio, Apple amenazó con retirar sus aplicaciones para iOS de la App Store. Facebook, entonces, prometió aplicar regulaciones más estrictas, pero posteriormente declaró que no las estaba aplicando adecuadamente. ^{[ 37 ]} Dos años después, una búsqueda de empleadas domésticas en Facebook seguía arrojando resultados de trabajadoras. Estas empleadas han denunciado haber sido sometidas a inanición, vendidas, encerradas en sus hogares y agredidas físicamente. ^{[ 38 ]}

Los documentos han revelado un programa privado conocido como "XCheck" o "cross-check" que Facebook ha empleado para incluir en la lista blanca las publicaciones de usuarios considerados de "alto perfil". El sistema comenzó como una medida de control de calidad, pero desde entonces ha evolucionado para proteger a "millones de usuarios VIP del proceso de aplicación de normas habitual de la empresa". XCheck ha permitido que celebridades y otras figuras públicas queden exentas del castigo que recibiría un usuario promedio de Facebook por infringir las políticas. En 2019, el futbolista Neymar publicó fotos de desnudos de una mujer que lo había acusado de violación, las cuales permanecieron publicadas durante más de un día. Según The Wall Street Journal , "XCheck llegó a incluir al menos a 5,8 millones de usuarios en 2020", según documentos internos de Facebook. ^{[ 39 ]} El objetivo de XCheck era "no enfrentarse públicamente a nadie lo suficientemente influyente como para perjudicarte". ^{[ 40 ]}

En 2020, el gobierno comunista de Vietnam amenazó con cerrar Facebook si la empresa de redes sociales no cooperaba en la censura de contenido político en el país, el mercado más grande de Facebook (ahora Meta) en el sudeste asiático . ^{[ 41 ]} La decisión de cumplir fue aprobada personalmente por Mark Zuckerberg. ^{[ 42 ] [ 43 ]} A finales de 2020, Facebook informó que había aumentado la censura en un 983% en comparación con el informe anterior. ^{[ 44 ]}

En 2021, Facebook desarrolló una nueva estrategia para abordar el contenido dañino en su sitio, implementando medidas diseñadas para reducir y suprimir la propagación de movimientos considerados de odio. Según un alto funcionario de seguridad de Facebook, la compañía "buscaría interrumpir los movimientos en la plataforma solo si existiera evidencia convincente de que fueran producto de círculos cerrados de usuarios conectados con violencia en el mundo real u otros daños y comprometidos con violar las reglas de Facebook". Como parte de su iniciativa coordinada recientemente, esto incluyó una menor promoción de las publicaciones del movimiento en el News Feed de los usuarios, así como no notificar a los usuarios sobre nuevas publicaciones de estas páginas. Entre los grupos específicos que se han señalado como afectados por la política de Facebook sobre daños sociales se encuentran el Partido Patriota , previamente vinculado al ataque al Capitolio , así como un grupo conspirativo alemán más reciente conocido como Querdenken , que fue puesto bajo vigilancia por la inteligencia alemana después de que las protestas que organizó repetidamente "resultaran en violencia y lesiones a la policía". ^{[ 45 ]}

Según The Wall Street Journal , los documentos muestran que en 2019, Facebook redujo el tiempo que los revisores humanos dedicaban a las denuncias de incitación al odio, aumentando su dependencia de los sistemas de inteligencia artificial para regular el tema. Sin embargo, documentos internos de los empleados afirman que su IA ha tenido un éxito moderado, con dificultades para detectar vídeos de accidentes de coches, peleas de gallos y para comprender el discurso de odio en idiomas extranjeros. ^{[ 46 ]} Ingenieros e investigadores internos de Facebook han estimado que su IA solo ha podido detectar y eliminar el 0,6 % de «todo el contenido que infringía las políticas de Facebook contra la violencia y la incitación». ^{[ 46 ]}

El Wall Street Journal informó que los ejecutivos de Facebook se resistieron a eliminar el sitio web de extrema derecha Breitbart News de la función de la pestaña de noticias de Facebook para evitar enfadar a Donald Trump y a los miembros republicanos del Congreso, a pesar de las críticas de los empleados de Facebook. ^{[ 47 ] [ 48 ]} Un estudio interno de Facebook de agosto de 2019 había encontrado que Breitbart News era la fuente de noticias menos confiable, y también se clasificó como de baja calidad, entre las fuentes que analizó en Estados Unidos y Gran Bretaña. ^{[ 47 ]}

En diciembre de 2021, The Wall Street Journal publicó noticias que señalaban los esfuerzos de cabildeo de Meta para dividir a los legisladores estadounidenses y "enturbiar las aguas" en el Congreso, con el fin de obstaculizar la regulación tras las filtraciones del denunciante de 2021. ^{[ 59 ]} El equipo de cabilderos de Facebook en Washington sugirió a los legisladores republicanos que el denunciante "estaba tratando de ayudar a los demócratas", mientras que la narrativa que se les contó a los asistentes demócratas fue que los republicanos "estaban centrados en la decisión de la compañía de prohibir las expresiones de apoyo a Kyle Rittenhouse ", informó The Wall Street Journal . Según el artículo, el objetivo de la compañía era "enturbiar las aguas, dividir a los legisladores por líneas partidistas e impedir una alianza multipartidista" contra Facebook (ahora Meta) en el Congreso. ^{[ 60 ]}

En octubre de 2021, Nick Clegg realizó una gira de prensa para comunicar la postura de Facebook tras el testimonio de Haugen, quien expuso las prácticas perjudiciales de la compañía. Nick Clegg fue ejecutivo de Facebook hasta 2025 y también se desempeñó como viceprimer ministro británico. ^{[ 61 ]} Cuando se le preguntó si Facebook contribuyó a los ataques del 6 de enero al permitir propaganda política y mentiras en su plataforma, Clegg respondió: «Dado que tenemos miles de algoritmos y millones de personas usándolos, no puedo darles una respuesta afirmativa o negativa sobre los feeds personalizados que usa cada persona». Clegg también afirmó que Facebook permite a los usuarios anular su algoritmo para tener mayor control. ^{[ 62 ]}

Facebook envió a ejecutivos de la compañía a varias giras de prensa para mitigar parte del daño causado por los medios y la reacción del público ante los "Papeles de Facebook". Facebook también organizó algunas giras de prensa internas para controlar los daños entre los empleados y evaluar sus reacciones. ^{[ 63 ]} Esto implicó que los vicepresidentes mantuvieran reuniones con los empleados sobre temas específicos, como la polarización y la postura de la compañía al respecto, así como las medidas que los ejecutivos estaban implementando para garantizar la seguridad de la plataforma. Facebook también envió memorandos con directrices sobre cómo los empleados debían reaccionar públicamente ante este evento. Los memorandos también incluían una declaración sobre cómo Facebook no prioriza las ganancias sobre la seguridad. ^{[ 63 ]}

Los empleados de Facebook se sintieron divididos tras el testimonio de Haugen. Algunos cuestionaron su experiencia, afirmando que «no sabía cómo funcionaban las pilas básicas», mientras que otros apoyaron su llamado a la acción diciendo que «decía cosas que muchos aquí llevan diciendo años». ^{[ 62 ]} Un sentimiento generalizado entre la mayoría de los empleados de Facebook fue la ira: «Somos Facebook, no una startup ingenua. Con los recursos sin precedentes que tenemos, deberíamos hacerlo mejor». Para muchos empleados era evidente que este evento se veía venir. En 2020, un empleado de Facebook escribió en su publicación de despedida que «solo estábamos dispuestos a actuar cuando la situación se había vuelto crítica». ^{[ 64 ]}

Tras las repercusiones del testimonio de Haugen, Facebook decidió realizar algunos cambios. El primero y más importante cambio público fue pasar de llamarse Facebook a Meta. ^{[ 65 ]} También presentaron un nuevo logotipo, abandonando el icónico logotipo azul de Facebook para adoptar un símbolo de infinito. Esto se anunció en un video de Mark Zuckerberg, quien explicó el compromiso de Meta con el futuro y algunos proyectos en los que están trabajando. ^{[ 66 ]}

Facebook también detuvo la producción de su función Instagram para niños tras la reacción negativa en torno al impacto de su plataforma en los niños. ^{[ 67 ]} Adam Mosseri, director de Instagram, emitió un comunicado explicando que esta función sigue siendo algo que están comprometidos a expandir, pero por el momento, quieren consultar con más expertos antes de llevar el proyecto a la fase de pruebas beta. Mosseri sostuvo que debe haber una plataforma disponible para niños. Mientras Facebook continúa buscando la manera de reanudar el trabajo en Instagram para niños, anunció que ampliará la supervisión parental. ^{[ 68 ] [ 69 ]}