Deepfake

Un vídeo deepfake de Kim Jong Un creado en 2020 por el grupo de defensa no partidista RepresentUs.

Los deepfakes ( acrónimo de « aprendizaje profundo » y « falso » ^{[ 1 ]} ) son imágenes, vídeos o audios que han sido editados o generados mediante inteligencia artificial , herramientas basadas en IA o software de edición de audio y vídeo. Pueden representar personas reales o ficticias y se consideran una forma de medios sintéticos , es decir, medios creados generalmente por sistemas de inteligencia artificial mediante la combinación de diversos elementos multimedia en un nuevo artefacto multimedia. ^{[ 2 ]}^{[ 3 ]}^{[ 4 ]}

Aunque la creación de contenido falso no es algo nuevo, los deepfakes aprovechan de forma única las técnicas de aprendizaje automático e inteligencia artificial , ^{[ 5 ]}^{[ 6 ]}^{[ 7 ]} incluyendo algoritmos de reconocimiento facial y redes neuronales artificiales como autoencoders variacionales y redes generativas antagónicas (GAN). ^{[ 6 ]}^{[ 8 ]} A su vez, el campo de la informática forense de imágenes ha trabajado para desarrollar técnicas para detectar imágenes manipuladas . ^{[ 9 ]} Los deepfakes han atraído una amplia atención por su potencial uso en la creación de material de abuso sexual infantil , vídeos pornográficos de celebridades , porno de venganza , noticias falsas , bulos , acoso escolar y fraude financiero . ^{[ 10 ]}^{[ 11 ]}^{[ 12 ]}^{[ 13 ]}

Académicos han expresado su preocupación por el potencial de los deepfakes para promover la desinformación y el discurso de odio, ^{[ 14 ]} así como para interferir en las elecciones. ^{[ 15 ]} En respuesta, la industria de la tecnología de la información y los gobiernos han propuesto recomendaciones y métodos para detectar y mitigar su uso. La investigación académica también ha profundizado en los factores que impulsan la interacción con deepfakes en línea, así como en posibles contramedidas para su aplicación maliciosa.

Desde el entretenimiento tradicional hasta los videojuegos , la tecnología deepfake ha evolucionado para ser cada vez más convincente ^{[ 16 ]} y accesible al público, permitiendo la disrupción de las industrias del entretenimiento y los medios de comunicación . ^{[ 17 ]}

Historia

La manipulación fotográfica se desarrolló en el siglo XIX y pronto se aplicó al cine. La tecnología mejoró progresivamente durante el siglo XX, y aún más rápidamente con la llegada del vídeo digital .

La tecnología deepfake fue desarrollada por investigadores en instituciones académicas a partir de la década de 1990, y posteriormente por aficionados en comunidades en línea. ^{[ 18 ]}^{[ 19 ]} Más recientemente, estos métodos han sido adoptados por la industria. ^{[ 20 ]}^{[ 1 ]}

El desarrollo de las redes generativas antagónicas (GAN) a mediados de la década de 2010 representó un punto de inflexión técnico clave en la evolución de los deepfakes. Las GAN permitieron la creación de imágenes y vídeos falsos de gran realismo mediante el entrenamiento de redes neuronales competitivas, logrando una fidelidad visual mucho mayor que los métodos anteriores de creación de contenido mediante reglas o autoencoders, y sentaron las bases de los métodos deepfake modernos. ^{[ 21 ]}^{[ 22 ]}

Investigación académica

La investigación académica relacionada con los deepfakes se divide entre el campo de la visión por computadora , un subcampo de la informática, ^{[ 18 ]} que desarrolla técnicas para crear e identificar deepfakes, y los enfoques de las humanidades y las ciencias sociales que estudian las implicaciones sociales, éticas, estéticas, periodísticas e informativas de los deepfakes. ^{[ 23 ]} A medida que los deepfakes se han vuelto más sofisticados y comunes, con innovaciones proporcionadas por herramientas de IA, se ha dedicado una investigación significativa al desarrollo de métodos de detección y a la definición de los factores que impulsan la interacción con deepfakes en internet. ^{[ 24 ]}^{[ 25 ]} Se ha demostrado que los deepfakes aparecen en plataformas de redes sociales y otras partes de internet con fines que incluyen entretenimiento, educación relacionada con deepfakes y desinformación destinada a provocar fuertes reacciones. ^{[ 26 ]} Hay lagunas en la investigación relacionada con la propagación de deepfakes en las redes sociales. La negatividad y la respuesta emocional son los principales factores que impulsan a los usuarios a compartir deepfakes. ^{[ 27 ]}

Enfoques de las ciencias sociales y las humanidades sobre los deepfakes

En los estudios cinematográficos, los deepfakes ilustran cómo "el rostro humano está emergiendo como un objeto central de ambivalencia en la era digital". ^{[ 28 ]} Los videoartistas han utilizado deepfakes para "reescribir de forma lúdica la historia del cine al adaptar el cine canónico con nuevos intérpretes estrella". ^{[ 29 ]}^{[ 30 ]} El estudioso del cine Christopher Holliday analiza cómo la alteración del género y la raza de los intérpretes en escenas cinematográficas familiares desestabiliza las clasificaciones y categorías de género. ^{[ 30 ]} El concepto de " queering " deepfakes también se discute en la discusión de Oliver M. Gingrich sobre obras de arte multimedia que utilizan deepfakes para redefinir el género, ^{[ 31 ]} incluyendo Zizi: Queering the Dataset del artista británico Jake Elwes , una obra de arte que utiliza deepfakes de drag queens para jugar intencionalmente con el género. Los potenciales estéticos de los deepfakes también están comenzando a explorarse. El historiador teatral John Fletcher señala que las primeras demostraciones de deepfakes se presentan como representaciones, y las sitúa en el contexto del teatro, analizando "algunos de los cambios de paradigma más preocupantes" que representan los deepfakes como género escénico. ^[³²^]

Si bien la mayoría de los estudios académicos en inglés sobre deepfakes se centran en las inquietudes occidentales respecto a la desinformación y la pornografía, el antropólogo digital Gabriele de Seta ha analizado la recepción china de los deepfakes, conocidos como huanlian , que se traduce como "rostros cambiantes". El término chino no incluye el prefijo "falso" del deepfake inglés, y de Seta argumenta que este contexto cultural podría explicar por qué la respuesta china se ha centrado en medidas regulatorias prácticas para abordar "los riesgos de fraude, los derechos de imagen, el beneficio económico y los desequilibrios éticos". ^{[ 33 ]}

Investigación en ciencias de la computación sobre deepfakes

Un proyecto pionero fue el programa "Video Rewrite", publicado en 1997. Este programa modificaba grabaciones de vídeo existentes de una persona hablando para simular que movía los labios al ritmo de una pista de audio diferente. ^{[ 34 ]} Fue el primer sistema en automatizar completamente este tipo de reanimación facial, utilizando técnicas de aprendizaje automático para establecer conexiones entre los sonidos producidos por el sujeto del vídeo y la forma de su rostro. ^{[ 34 ]}

Los proyectos académicos contemporáneos se han centrado en crear vídeos más realistas y mejorar las técnicas deepfake. ^{[ 35 ]}^{[ 36 ]} El programa "Synthesizing Obama", publicado en 2017, modifica grabaciones de vídeo del expresidente Barack Obama para representarlo moviendo los labios según las palabras contenidas en una pista de audio separada. ^{[ 35 ]} El proyecto enumera como una contribución principal a la investigación su técnica fotorrealista para sintetizar formas de boca a partir de audio. ^{[ 35 ]} El programa "Face2Face", publicado en 2016, modifica grabaciones de vídeo del rostro de una persona para representarla imitando las expresiones faciales de otra persona. ^{[ 36 ]} El proyecto destaca como su principal contribución a la investigación el desarrollo del primer método para recrear expresiones faciales en tiempo real utilizando una cámara que no captura profundidad, lo que permite que la técnica funcione con cámaras de consumo comunes.

Los investigadores también han demostrado que los deepfakes se están expandiendo a otros dominios, como las imágenes médicas. ^{[ 37 ]} En este trabajo, se demostró cómo un atacante puede inyectar o eliminar automáticamente cáncer de pulmón en una tomografía computarizada 3D de un paciente . El resultado fue tan convincente que engañó a tres radiólogos y a una IA de detección de cáncer de pulmón de última generación. Para demostrar la amenaza, los autores realizaron con éxito el ataque a un hospital en una prueba de penetración de sombrero blanco . ^{[ 38 ]}

Un estudio sobre deepfakes, publicado en mayo de 2020, proporciona una cronología de cómo la creación y detección de deepfakes han avanzado en los últimos años. ^{[ 39 ]} El estudio identifica que los investigadores se han centrado en resolver los siguientes desafíos de la creación de deepfakes:

Generalización. Los deepfakes de alta calidad suelen lograrse entrenando el modelo con horas de grabación del objetivo. El reto consiste en minimizar la cantidad de datos de entrenamiento y el tiempo necesario para entrenar el modelo y producir imágenes de calidad, así como permitir la ejecución de modelos entrenados con identidades nuevas (no vistas durante el entrenamiento).
Entrenamiento con datos emparejados. Entrenar un modelo supervisado puede producir resultados de alta calidad, pero requiere emparejar los datos. Este proceso consiste en encontrar ejemplos de entradas y sus salidas deseadas para que el modelo aprenda. El emparejamiento de datos es laborioso y poco práctico al entrenar con múltiples identidades y comportamientos faciales. Algunas soluciones incluyen el entrenamiento auto-supervisado (usando fotogramas del mismo video), el uso de redes no emparejadas como Cycle-GAN o la manipulación de las incrustaciones de la red.
Fuga de identidad. Esto ocurre cuando la identidad del conductor (es decir, el actor que controla el rostro en una recreación) se transfiere parcialmente al rostro generado. Algunas soluciones propuestas incluyen mecanismos de atención, aprendizaje con pocos ejemplos, desenredo, conversiones de límites y conexiones de salto.
Oclusiones. Cuando una parte del rostro queda obstruida por una mano, cabello, gafas o cualquier otro objeto, pueden aparecer artefactos. Una oclusión común es la boca cerrada, que oculta el interior de la boca y los dientes. Algunas soluciones incluyen la segmentación de imágenes durante el entrenamiento y el relleno de imágenes.
Coherencia temporal. En los vídeos que contienen deepfakes, pueden aparecer artefactos como parpadeos y fluctuaciones debido a que la red carece del contexto de los fotogramas anteriores. Algunos investigadores proporcionan este contexto o utilizan nuevas funciones de pérdida de coherencia temporal para mejorar el realismo. A medida que la tecnología avanza, la interferencia disminuye.

En general, se espera que los deepfakes tengan diversas implicaciones en los medios de comunicación y la sociedad, la producción de medios, las representaciones mediáticas, las audiencias de los medios, el género, el derecho y la regulación, y la política. ^{[ 40 ]}

Desarrollo amateur

El término deepfake se originó a finales de 2017 gracias a un usuario de Reddit llamado "deepfakes". ^{[ 41 ]} Él, junto con otros miembros de "r/deepfakes" de Reddit, compartieron deepfakes que habían creado; muchos vídeos mostraban rostros de celebridades intercambiados en los cuerpos de actores en vídeos pornográficos, ^{[ 41 ]} mientras que el contenido no pornográfico incluía muchos vídeos con el rostro del actor Nicolas Cage intercambiado en varias películas. ^{[ 42 ]}

Tras esta primera introducción, el desarrollo amateur creció a un ritmo acelerado gracias a la presencia de software de código abierto y tutoriales en Internet. Herramientas gratuitas como FakeApp, FaceSwap y DeepFaceLab permitieron a usuarios sin formación académica en informática crear vídeos deepfake con hardware de consumo. ^{[ 43 ]}^{[ 21 ]} Foros en línea como Reddit, GitHub y YouTube fueron fundamentales para la distribución de software, instrucciones y ejemplos de contenido, y contribuyeron a difundir y perfeccionar la creación amateur de deepfakes con mayor rapidez. ^{[ 21 ]}

Otras comunidades en línea siguen compartiendo pornografía en plataformas que no han prohibido la pornografía deepfake. ^{[ 44 ]}

Desarrollo comercial

En enero de 2018, se lanzó una aplicación de escritorio propietaria llamada "FakeApp". ^{[ 45 ]} Esta aplicación permite a los usuarios crear y compartir fácilmente videos con sus rostros intercambiados. ^{[ 46 ]} A partir de 2019, "FakeApp" había sido reemplazada en gran medida por alternativas de código abierto como "Faceswap", "DeepFaceLab" basada en línea de comandos y aplicaciones web como DeepfakesWeb. ^{[ 47 ]}^{[ 48 ]}^{[ 49 ]}

Las empresas más grandes comenzaron a usar deepfakes. ^{[ 20 ]} Se pueden crear videos de capacitación corporativa usando avatares deepfake y sus voces, por ejemplo Synthesia , que usa tecnología deepfake con avatares para crear videos personalizados. ^{[ 50 ]} La aplicación móvil Momo creó la aplicación Zao que permite a los usuarios superponer su rostro en clips de televisión y películas con una sola imagen. ^{[ 20 ]} A partir de 2019, la empresa japonesa de IA DataGrid hizo un deepfake de cuerpo completo que podía crear una persona desde cero. ^{[ 51 ]}

Para 2020, ya existían deepfakes de audio y software de IA capaz de clonar voces humanas a partir de unos pocos segundos de habla. ^{[ 52 ]}^{[ 53 ]} También surgieron herramientas para la detección de deepfakes. ^{[ 54 ]}^{[ 55 ]}^{[ 56 ]} En marzo de 2020 se lanzó Impressions, una aplicación móvil para deepfakes. Fue la primera aplicación para la creación de vídeos deepfake de famosos desde teléfonos móviles. ^{[ 57 ]}^{[ 58 ]}

Resurrección

La capacidad de la tecnología Deepfake para fabricar mensajes y acciones de otros puede extenderse a los fallecidos, como en la terapia de duelo que permite una aparente comunicación con un ser querido fallecido. ^{[ 59 ]} En octubre de 2020, Kim Kardashian publicó un video que mostraba un holograma de su difunto padre, Robert Kardashian , creado por la empresa Kaleida, que utilizó una combinación de actuación, seguimiento de movimiento, efectos especiales, efectos visuales y tecnologías Deepfake para crear la ilusión. ^{[ 60 ]}^{[ 61 ]}

En 2020, se creó un video deepfake de Joaquín Oliver, víctima del tiroteo de Parkland , como parte de una campaña de seguridad con armas de fuego. Los padres de Oliver se asociaron con la organización sin fines de lucro Change the Ref y McCann Health para producir un video en el que Oliver animaba a la gente a apoyar la legislación sobre seguridad con armas de fuego y a los políticos que la respaldaban a hacer lo mismo. ^{[ 62 ]}

En 2022, se utilizó un vídeo deepfake de Elvis Presley en el programa America's Got Talent 17. ^{[ 63 ]}

Técnicas

Los deepfakes se basan en un tipo de red neuronal llamada autoencoder . ^{[ 64 ]} Estos constan de un codificador, que reduce una imagen a un espacio latente de menor dimensión , y un decodificador, que reconstruye la imagen a partir de la representación latente. ^{[ 65 ]} Los deepfakes utilizan esta arquitectura mediante un codificador universal que codifica a una persona en el espacio latente. La representación latente contiene características clave sobre sus rasgos faciales y postura corporal. Esto puede decodificarse con un modelo entrenado específicamente para el objetivo. Esto significa que la información detallada del objetivo se superpondrá a las características faciales y corporales subyacentes del vídeo original, representadas en el espacio latente.

Una actualización popular de esta arquitectura incorpora una red generativa antagónica ( GAN ) al decodificador. Una GAN entrena un generador, en este caso el decodificador, y un discriminador en una relación antagónica. La primera red, conocida como generador, intenta crear imágenes falsificadas, mientras que la segunda, el discriminador, distingue entre imágenes reales y falsas utilizando un conjunto de datos legítimo para guiar su juicio. ^{[ 66 ]} Esto hace que el generador cree imágenes que imitan la realidad con gran precisión, ya que cualquier defecto sería detectado por el discriminador. ^{[ 67 ]} Ambos algoritmos mejoran constantemente en un juego de suma cero . Esto dificulta la lucha contra los deepfakes, ya que están en constante evolución; cada vez que se detecta un defecto, se puede corregir. ^{[ 67 ]}

Aplicaciones

Interino

Ya han aparecido clones digitales de actores profesionales en películas , y se espera que el progreso en la tecnología deepfake aumente la accesibilidad y la efectividad de dichos clones. ^{[ 68 ]} El uso de la tecnología de IA fue un tema importante en la huelga de SAG-AFTRA de 2023 , ya que las nuevas técnicas permitieron la capacidad de generar y almacenar una imagen digital para usarla en lugar de los actores. ^{[ 69 ]}

Disney ha mejorado sus efectos visuales utilizando tecnología de intercambio de rostros deepfake de alta resolución. ^{[ 70 ]} Disney mejoró su tecnología a través de un entrenamiento progresivo programado para identificar expresiones faciales, implementando una función de intercambio de rostros e iterando para estabilizar y refinar el resultado. ^{[ 70 ]} Esta tecnología deepfake de alta resolución ahorra costos operativos y de producción significativos. ^{[ 71 ]} El modelo de generación deepfake de Disney puede producir medios generados por IA a una resolución de 1024 x 1024, a diferencia de los modelos comunes que producen medios a una resolución de 256 x 256. ^{[ 71 ]} La tecnología permite a Disney rejuvenecer personajes o revivir actores fallecidos. ^{[ 72 ]} Tecnología similar fue utilizada inicialmente por fanáticos para insertar rostros de manera no oficial en medios existentes, como superponer el rostro joven de Harrison Ford sobre el rostro de Han Solo en Solo: Una historia de Star Wars . ^{[ 73 ]} Disney utilizó deepfakes para los personajes de la Princesa Leia en Rogue One y Luke Skywalker en The Mandalorian y The Book of Boba Fett . ^{[ 74 ]}^{[ 75 ]}

En la película india de ciencia ficción y acción en tamil de 2024, The Greatest of All Time , la versión adolescente del personaje de Vijay , Jeevan, es interpretada por Ayaz Khan. El rostro adolescente de Vijay se obtuvo mediante deepfake con IA . ^[⁷⁶^] En mayo de 2025, la empresa holandesa Xicoia, una división de la productora Particle6, fundada por la actriz y comediante Eline Van der Velden , desarrolló una actriz generada por IA llamada Tilly Norwood . ^[⁷⁷^]

Arte

Los deepfakes también se están utilizando en la educación y los medios de comunicación para crear vídeos realistas y contenido interactivo, que ofrecen nuevas formas de captar la atención del público.

En marzo de 2018, el artista multidisciplinar Joseph Ayerle publicó la videoinstalación Un'emozione per sempre 2.0 (título en inglés: The Italian Game ). El artista trabajó con tecnología Deepfake para crear un actor de IA, una versión sintética de la estrella de cine de los 80 Ornella Muti , que viaja en el tiempo de 1978 a 2018. El Instituto Tecnológico de Massachusetts (MIT ) se refirió a esta obra en el estudio "Sabiduría Colectiva". ^{[ 78 ]} El artista utilizó el viaje en el tiempo de Ornella Muti para explorar reflexiones generacionales, al tiempo que investigaba cuestiones sobre el papel de la provocación en el mundo del arte. ^{[ 79 ]} Para la realización técnica, Ayerle utilizó escenas de la modelo Kendall Jenner . El programa reemplazó el rostro de Jenner por un rostro de Ornella Muti calculado por IA. Como resultado, el actor de IA tiene el rostro de la actriz italiana Ornella Muti y el cuerpo de Kendall Jenner.

Los deepfakes se han utilizado ampliamente en la sátira o para parodiar a celebridades y políticos. La serie web de 2020, Sassy Justice , creada por Trey Parker y Matt Stone , hace un uso extensivo de figuras públicas creadas con deepfakes para satirizar eventos actuales y crear conciencia sobre la tecnología deepfake. ^{[ 80 ]}

Chantaje

Los deepfakes pueden utilizarse para generar material de chantaje que incrimine falsamente a una víctima. Un informe del Servicio de Investigación del Congreso Estadounidense advirtió que los deepfakes podrían utilizarse para chantajear a funcionarios electos o a personas con acceso a información clasificada con fines de espionaje o influencia . ^{[ 81 ]}

Cuando las falsificaciones no pueden distinguirse de manera fiable de las pruebas genuinas, las víctimas extorsionadas con pruebas digitales podrían alegar que los artefactos auténticos son falsos, buscando así una negación plausible al basarse en el argumento de la indistinguibilidad entre pruebas falsas y genuinas. El efecto deseado es anular la credibilidad de ciertos materiales de extorsión existentes, que, si fueran la única prueba en poder del extorsionador y no pudieran ser distinguidos por un jurado de las pruebas falsas según este argumento, podrían, en teoría, erosionar la lealtad hacia los extorsionadores y limitar su control sobre los extorsionados. Este fenómeno se ha denominado «inflación de extorsión», ya que, en teoría, «devalúa» el material de extorsión auténtico. ^{[ 82 ]} Es posible utilizar hardware GPU comercial con un pequeño programa de software para generar contenido falso destinado a extorsionar a cualquier persona de la que un adversario tenga datos de entrenamiento suficientes. ^{[ 83 ]} Sin embargo, incluso las falsificaciones cuidadosamente manipuladas aún pueden detectarse.

La existencia de técnicas eficaces para fabricar pruebas falsas sugiere, sin duda, que cualquier combinación de vídeo, audio, fotografías u otras pruebas generables como base para la condena por un delito constituye, por ahora, un estándar peligroso y precario debido a la posibilidad de pruebas fabricadas maliciosamente, lo que aumenta la importancia de contar con múltiples testigos presenciales de un delito, especialmente en casos de acusaciones más graves. ^{[ 84 ]}

Entretenimiento

El 8 de junio de 2022, ^{[ 85 ]} Daniel Emmet, un ex concursante de AGT , se asoció con la startup de IA ^[⁸⁶^]^[⁸⁷^] Metaphysic AI, para crear un deepfake hiperrealista que lo hiciera parecer Simon Cowell . Cowell, conocido por sus severas críticas a los concursantes, ^[⁸⁸^] estaba en el escenario interpretando " You're The Inspiration " de Chicago . Emmet cantó en el escenario mientras una imagen de Simon Cowell aparecía en la pantalla detrás de él en perfecta sincronía. ^[⁸⁹^]

El 30 de agosto de 2022, Metaphysic AI creó mediante "deepfake" a Simon Cowell , Howie Mandel y Terry Crews cantando ópera en el escenario. ^{[ 90 ]}

El 13 de septiembre de 2022, Metaphysic AI actuó con una versión sintética de Elvis Presley en la final de America's Got Talent . ^{[ 91 ]}

El proyecto de inteligencia artificial 15.ai del MIT se ha utilizado para la creación de contenido para múltiples fandoms de Internet , particularmente en redes sociales. ^[⁹²^]^[⁹³^]^[⁹⁴^]

En 2023, las bandas ABBA y Kiss se asociaron con Industrial Light & Magic y Pophouse Entertainment para desarrollar avatares deepfake capaces de realizar conciertos virtuales . ^{[ 95 ]}

Fraudes y estafas

Los estafadores y defraudadores utilizan deepfakes para engañar a las personas con falsos esquemas de inversión, fraudes financieros , criptomonedas , envíos de dinero y recomendaciones fraudulentas . Se han utilizado imágenes de celebridades y políticos para estafas a gran escala, así como de particulares, en ataques de spearphishing . Según el Better Business Bureau , las estafas con deepfakes son cada vez más frecuentes. ^{[ 96 ]} Estas estafas son responsables de pérdidas estimadas en 12 mil millones de dólares a nivel mundial. ^{[ 97 ]} Según un informe reciente, se espera que estas cifras alcancen los 40 mil millones de dólares en los próximos tres años. ^{[ 97 ]}

Los respaldos falsos han abusado de las identidades de celebridades como Taylor Swift , ^{[ 98 ]}^{[ 96 ]} Tom Hanks , ^{[ 99 ]} Oprah Winfrey , ^{[ 100 ]} y Elon Musk ; ^{[ 101 ]} presentadores de noticias ^{[ 102 ]} como Gayle King ^{[ 99 ]} y Sally Bundock ; ^{[ 103 ]} y políticos como Lee Hsien Loong ^{[ 104 ]} y Jim Chalmers . ^{[ 105 ]}^{[ 106 ]} Videos de ellos han aparecido en anuncios en línea en YouTube , Facebook y TikTok , que tienen políticas contra los medios sintéticos y manipulados . ^{[ 107 ]}^{[ 98 ]}^{[ 108 ]} Los anuncios que muestran estos videos son vistos por millones de personas. Una sola campaña de fraude de Medicare había sido vista más de 195 millones de veces en miles de videos. ^{[ 107 ]}^{[ 109 ]} Se han utilizado deepfakes para: un sorteo falso de utensilios de cocina Le Creuset por un "gasto de envío" sin recibir los productos, excepto por cargos mensuales ocultos; ^{[ 98 ]} gomitas para bajar de peso que cobran significativamente más de lo que se dijo; ^{[ 100 ]} un sorteo falso de iPhone; ^{[ 98 ]}^{[ 108 ]} y esquemas fraudulentos para hacerse rico rápidamente , ^{[ 101 ]}^{[ 110 ]} de inversión, ^{[ 111 ]} y de criptomonedas . ^{[ 104 ]}^{[ 112 ]}

Las falsificaciones de audio (deepfakes) se han utilizado como parte de estafas de ingeniería social , engañando a las personas para que crean que reciben instrucciones de un individuo de confianza. ^{[ 113 ]} En 2019, el director ejecutivo de una empresa energética con sede en el Reino Unido fue estafado por teléfono cuando un individuo le ordenó transferir 220 000 € a una cuenta bancaria húngara. Según se informó, un individuo utilizó tecnología de deepfake de audio para suplantar la voz del director ejecutivo de la empresa matriz. ^{[ 114 ]}^{[ 115 ]} A partir de 2023, la combinación de los avances en la tecnología deepfake, que podía clonar la voz de un individuo a partir de una grabación de unos pocos segundos a un minuto, y las nuevas herramientas de generación de texto , permitieron estafas de suplantación automatizadas, dirigidas a las víctimas mediante un clon digital convincente de un amigo o familiar. ^{[ 116 ]}

Política

Los deepfakes se han utilizado para tergiversar la imagen de políticos conocidos en vídeos.

En febrero de 2018, en videos separados, el rostro del presidente argentino Mauricio Macri fue reemplazado por el rostro de Adolf Hitler , y el rostro de Angela Merkel fue reemplazado por el de Donald Trump . ^{[ 117 ]}^{[ 118 ]}
En abril de 2018, Jordan Peele colaboró con BuzzFeed para crear un deepfake de Barack Obama con la voz de Peele; sirvió como anuncio de servicio público para aumentar la concienciación sobre los deepfakes. ^{[ 119 ]}
En enero de 2019, la filial de Fox, KCPQ, emitió un deepfake de Trump durante su discurso desde el Despacho Oval , burlándose de su apariencia y color de piel. El empleado responsable del video fue despedido posteriormente. ^{[ 120 ]}
En junio de 2019, el Comité de Inteligencia de la Cámara de Representantes de Estados Unidos celebró audiencias sobre el posible uso malicioso de deepfakes para influir en las elecciones. ^{[ 121 ]}
En abril de 2020, la rama belga de Extinction Rebellion publicó en Facebook un vídeo deepfake de la primera ministra belga Sophie Wilmès . ^{[ 122 ]} El vídeo promovía una posible relación entre la deforestación y la COVID-19 . Obtuvo más de 100 000 visualizaciones en 24 horas y recibió numerosos comentarios. En la página de Facebook donde apareció el vídeo, muchos usuarios lo interpretaron como auténtico. ^{[ 123 ]}
Durante la campaña presidencial estadounidense de 2020 , surgieron muchos deepfakes que sugerían que Joe Biden sufría un deterioro cognitivo: se quedaba dormido durante una entrevista, se perdía y se equivocaba al hablar, lo que reforzó los rumores de su deterioro. ^{[ 124 ]}^{[ 125 ]}
Durante la campaña electoral de la Asamblea Legislativa de Delhi de 2020 , el Partido Bharatiya Janata de Delhi utilizó una tecnología similar para distribuir una versión de un anuncio de campaña en inglés de su líder, Manoj Tiwari , traducida al haryanvi para dirigirse a los votantes de Haryana . Un actor proporcionó la voz en off, y se utilizó una IA entrenada con vídeos de discursos de Tiwari para sincronizar los labios del vídeo con la nueva voz en off. Un miembro del personal del partido lo describió como un uso "positivo" de la tecnología deepfake, que les permitió "acercarse de forma convincente al público objetivo incluso si el candidato no hablaba el idioma del votante". ^{[ 126 ]}
En 2020, Bruno Sartori produjo deepfakes que parodiaban a políticos como Jair Bolsonaro y Donald Trump . ^{[ 127 ]}
En abril de 2021, políticos de varios países europeos fueron contactados por los bromistas Vovan y Lexus , quienes son acusados por sus críticos de trabajar para el Estado ruso . Suplantaron la identidad de Leonid Volkov , político de la oposición rusa y jefe de gabinete de la campaña del líder opositor ruso Alexei Navalny , supuestamente mediante tecnología deepfake. ^{[ 128 ]}^{[ 129 ]}^{[ 130 ]}^{[ 131 ]} Sin embargo, la pareja declaró a The Verge que no utilizaron deepfakes, sino simplemente un doble . ^{[ 132 ]}
En mayo de 2023, un vídeo deepfake de la vicepresidenta Kamala Harris, en el que supuestamente arrastraba las palabras y hablaba sin sentido sobre hoy, mañana y ayer, se hizo viral en las redes sociales. ^{[ 133 ]}^{[ 134 ]}
En junio de 2023, en Estados Unidos, la campaña presidencial de Ron DeSantis utilizó un deepfake para tergiversar la imagen de Donald Trump. ^{[ 135 ]}
En noviembre de 2023, el Zentrum für Politische Schönheit (Centro de Belleza Política) subió a YouTube un vídeo deepfake del canciller alemán Olaf Scholz anunciando un plan para prohibir las actividades políticas de la AfD . ^{[ 136 ]}
En marzo de 2024, durante las elecciones a las asambleas estatales de la India, la tecnología deepfake fue ampliamente empleada por los candidatos políticos para llegar a los votantes. Muchos políticos utilizaron deepfakes generados por IA, creados por la startup The Indian Deepfaker, fundada por Divyendra Singh Jadoun, ^{[ 137 ]} para traducir sus discursos a múltiples idiomas regionales, lo que les permitió interactuar con diversas comunidades lingüísticas en todo el país. Este auge en el uso de deepfakes para campañas políticas marcó un cambio significativo en las tácticas electorales en la India. ^{[ 138 ]}^{[ 139 ]}
En junio de 2025, el gobierno de Javier Milei respaldó una campaña de desprestigio contra el periodista Mengolini, que se basó en parte en deepfakes explícitos. ^{[ 140 ]}^{[ 141 ]}
En julio de 2025, Donald Trump publicó un deepfake en su cuenta Truth Social , que mostraba al expresidente Barack Obama siendo arrestado en la Casa Blanca y encarcelado. ^{[ 142 ]}^{[ 143 ]}

Pornografía

En 2017, la pornografía deepfake apareció prominentemente en Internet, particularmente en Reddit . ^{[ 144 ]} A partir de 2019, muchos deepfakes en Internet presentan pornografía de celebridades femeninas cuya imagen se usa generalmente sin su consentimiento. ^{[ 145 ]} Un informe publicado en octubre de 2019 por la startup holandesa de ciberseguridad Deeptrace estimó que el 96% de todos los deepfakes en línea eran pornográficos. ^{[ 146 ]} A partir de 2018, un deepfake de Daisy Ridley captó la atención por primera vez, ^{[ 144 ]} entre otros. ^{[ 147 ]}^{[ 148 ]}^{[ 149 ]} A partir de octubre de 2019, la mayoría de los sujetos de deepfake en Internet eran actores británicos y estadounidenses. ^{[ 145 ]} Sin embargo, alrededor de una cuarta parte de los sujetos son surcoreanos, la mayoría de los cuales son estrellas del K-pop. ^{[ 145 ]}^{[ 150 ]}

En junio de 2019, se lanzó una aplicación descargable para Windows y Linux llamada DeepNude que utilizaba redes neuronales, específicamente redes generativas antagónicas , para eliminar la ropa de imágenes de mujeres. La aplicación tenía una versión de pago y otra gratuita, siendo la de pago un costo de $50. ^{[ 151 ]}^{[ 152 ]} El 27 de junio, los creadores retiraron la aplicación y reembolsaron a los consumidores. ^{[ 153 ]}

Las celebridades femeninas suelen ser un objetivo principal en lo que respecta a la pornografía deepfake. En 2023, aparecieron en línea videos pornográficos deepfake de Emma Watson y Scarlett Johansson en una aplicación de intercambio de rostros. ^{[ 154 ]} En 2024, circularon en línea imágenes pornográficas deepfake de Taylor Swift . ^{[ 155 ]}

Estudios académicos han informado que las mujeres, las personas LGBT y las personas de color (en particular activistas, políticos y quienes cuestionan el poder) corren un mayor riesgo de ser blanco de la difusión de pornografía deepfake. ^{[ 156 ]} La tecnología deepfake se ha convertido en una herramienta para el acoso y la violencia de género, dirigida desproporcionadamente a mujeres y grupos marginados. Existe una creciente preocupación ética y de equidad por las intenciones de intimidación y daño a la reputación que subyacen a este tipo de medios. ^{[ 157 ]}

redes sociales

Los deepfakes han comenzado a usarse en plataformas populares de redes sociales, especialmente a través de Zao, una aplicación china que permite a los usuarios sustituir sus propios rostros por los de personajes en escenas de películas y series de televisión como Romeo + Julieta y Juego de Tronos . ^{[ 158 ]} La aplicación fue objeto de críticas inicialmente por su política invasiva de privacidad y datos de usuario, tras lo cual la empresa emitió un comunicado afirmando que revisaría dicha política. ^{[ 20 ]} En enero de 2020, Facebook anunció que estaba implementando nuevas medidas para contrarrestar esto en sus plataformas. ^{[ 159 ]}

El Servicio de Investigación del Congreso citó evidencia no especificada que demuestra que agentes de inteligencia extranjeros utilizaron deepfakes para crear cuentas en redes sociales con el propósito de reclutar personas con acceso a información clasificada . ^{[ 81 ]}

En 2021, se publicaron en TikTok vídeos deepfake realistas del actor Tom Cruise , que se viralizaron y acumularon decenas de millones de visualizaciones. Los vídeos deepfake mostraban un "doble generado por inteligencia artificial" de Cruise realizando diversas actividades, como dar un golpe de salida en un campo de golf, mostrar un truco con monedas y morder una piruleta. El creador de los clips, el artista belga de efectos visuales Chris Umé, ^[¹⁶⁰^] afirmó que se interesó por primera vez en los deepfakes en 2018 y vio su "potencial creativo". ^[¹⁶¹^]^[¹⁶²^]

Marionetas de calcetín

Las fotografías deepfake pueden utilizarse para crear perfiles falsos , personas inexistentes, que operan tanto en línea como en medios tradicionales. Una fotografía deepfake parece haber sido generada junto con una leyenda para una persona aparentemente inexistente llamada Oliver Taylor, cuya identidad se describía como la de un estudiante universitario en el Reino Unido. El perfil de Oliver Taylor publicaba artículos de opinión en varios periódicos y era activo en medios en línea atacando a un académico británico de derecho y a su esposa, a quienes calificaba de "simpatizantes del terrorismo". El académico había atraído la atención internacional en 2018 cuando inició una demanda en Israel contra NSO, una empresa de vigilancia, en nombre de personas en México que alegaban ser víctimas de la tecnología de pirateo telefónico de NSO . Reuters solo pudo encontrar escasos registros de Oliver Taylor y "su" universidad no tenía registros sobre él. Muchos expertos coincidieron en que la foto de perfil es un deepfake. Varios periódicos no han retractado los artículos que se le atribuyen ni los han eliminado de sus sitios web. Se teme que estas técnicas se conviertan en un nuevo campo de batalla para la desinformación . ^{[ 163 ]}

Preocupaciones y contramedidas

Aunque las fotos falsas han sido abundantes desde hace mucho tiempo, falsificar películas ha sido más difícil, y la presencia de deepfakes aumenta la dificultad de clasificar los videos como genuinos o no. ^{[ 117 ]} El investigador de IA Alex Champandard ha dicho que la gente debería saber lo rápido que las cosas pueden corromperse con la tecnología deepfake, y que el problema no es técnico, sino que se resolverá mediante la confianza en la información y el periodismo. ^{[ 117 ]} El profesor asociado de ciencias de la computación Hao Li de la Universidad del Sur de California afirma que los deepfakes creados para uso malicioso, como las noticias falsas , serán aún más dañinos si no se hace nada para difundir la conciencia sobre la tecnología deepfake. ^{[ 164 ]} Li predijo que los videos genuinos y los deepfakes se volverían indistinguibles en tan solo seis meses, a partir de octubre de 2019, debido al rápido avance ^{[ 165 ]} en inteligencia artificial y gráficos por computadora. ^{[ 164 ]} El ex zar del fraude de Google, Shuman Ghosemajumder, ha calificado a los deepfakes como un área de "preocupación social" y ha dicho que inevitablemente evolucionarán hasta un punto en el que podrán generarse automáticamente, y un individuo podría usar esa tecnología para producir millones de vídeos deepfake. ^{[ 166 ]}

Credibilidad de la información

Un peligro principal es que la humanidad podría caer en una era en la que ya no se pueda determinar si el contenido de un medio se corresponde con la verdad. ^{[ 117 ]}^{[ 167 ]} Los deepfakes son una de las herramientas para el ataque de desinformación , creando dudas y socavando la confianza. Tienen el potencial de interferir con las funciones democráticas en las sociedades, como la identificación de agendas colectivas, el debate de temas, la información para la toma de decisiones y la resolución de problemas mediante el ejercicio de la voluntad política. ^{[ 168 ]} Las personas también podrían empezar a descartar eventos reales como falsos. ^{[ 169 ]}

Difamación

Los deepfakes tienen la capacidad de dañar enormemente a las personas. ^{[ 170 ]} Esto se debe a que los deepfakes suelen estar dirigidos a un individuo o a sus relaciones con otros, con la esperanza de crear una narrativa lo suficientemente poderosa como para influir en la opinión o las creencias públicas. Esto se puede lograr mediante el deepfake de voz, que manipula el audio para crear llamadas o conversaciones telefónicas falsas. ^{[ 170 ]} Otro método de uso de deepfakes son los comentarios privados fabricados, que manipulan los medios para transmitir comentarios dañinos de las personas. ^{[ 170 ]} La calidad de un video o audio negativo no necesita ser muy alta. Siempre que la imagen y las acciones de alguien sean reconocibles, un deepfake puede dañar su reputación. ^{[ 169 ]}

En septiembre de 2020, Microsoft hizo público que estaba desarrollando una herramienta de software para la detección de deepfakes. ^{[ 171 ]}

Detección

Audio

La detección de audio falso es una tarea compleja que requiere un análisis minucioso de la señal subyacente para lograr un rendimiento fiable. Los enfoques de aprendizaje profundo han demostrado que el diseño de características y el aumento basado en enmascaramiento contribuyen a una mejor detección. ^{[ 172 ]} Más recientemente, los enfoques que integran extractores de características entrenables con estrategias de aumento de audio robustas y diversas han demostrado un rendimiento mejorado al permitir que el modelo aprenda representaciones que capturen de forma más eficaz los artefactos de manipulación. ^{[ 173 ]}

La detección parcial de audio deepfake, en la que solo se manipula una porción limitada de la señal, se ha convertido en un desafío importante en este campo. Esta configuración introduce una complejidad adicional con respecto a las tareas de detección convencionales, ya que requiere no solo identificar la presencia de la suplantación, sino también localizar con precisión las regiones manipuladas. Además, la necesidad de detectar segmentos suplantados cortos y a menudo sutiles dentro de un audio predominantemente genuino aumenta aún más la dificultad del problema. ^{[ 174 ]}

Video

La mayor parte de la investigación académica en torno a los deepfakes se centra en la detección de vídeos deepfake. ^{[ 175 ]} Un enfoque para la detección de deepfakes es utilizar algoritmos para reconocer patrones y detectar inconsistencias sutiles que surgen en los vídeos deepfake. ^{[ 175 ]} Por ejemplo, los investigadores han desarrollado sistemas automáticos que examinan vídeos en busca de errores como patrones de parpadeo irregulares de la iluminación. ^{[ 176 ]}^{[ 18 ]} Este enfoque ha sido criticado porque la detección de deepfakes se caracteriza por un " punto de referencia cambiante " donde la producción de deepfakes continúa cambiando y mejorando a medida que mejoran los algoritmos para detectar deepfakes. ^{[ 175 ]} Con el fin de evaluar los algoritmos más efectivos para detectar deepfakes, una coalición de empresas tecnológicas líderes organizó el Deepfake Detection Challenge para acelerar la tecnología para identificar contenido manipulado. ^{[ 177 ]} El modelo ganador del Deepfake Detection Challenge fue 65% preciso en el conjunto de prueba de 4000 vídeos. ^{[ 178 ]} Un equipo del Instituto Tecnológico de Massachusetts publicó un artículo en diciembre de 2021 que demuestra que los humanos comunes tienen una precisión del 69 al 72 % al identificar una muestra aleatoria de 50 de estos videos. ^{[ 179 ]}

Más allá de la detección automatizada, los espectadores pueden basarse en el contexto y las señales perceptivas para identificar contenido deepfake. Los estudios han demostrado que los espectadores pueden notar inconsistencias en el lenguaje corporal, los rasgos faciales, la iluminación y el audio en relación con el movimiento de la boca. Estas son algunas maneras de identificar contenido no auténtico, pero no siempre son las más fiables para determinar si el contenido es real o no. La evidencia sugiere que, en condiciones de visualización naturales, los espectadores no tienen más probabilidades de reconocer vídeos deepfake que vídeos auténticos. El uso de advertencias de contenido ha mostrado resultados mixtos, ya que las advertencias no mejoraron la precisión de la detección y también provocaron que algunas personas juzgaran erróneamente los vídeos como deepfake. ^{[ 180 ]}

Otro equipo liderado por Wael AbdAlmageed con Visual Intelligence and Multimedia Analytics Laboratory (VIMAL) del Information Sciences Institute en la University Of Southern California desarrolló dos generaciones ^{[ 181 ]}^{[ 182 ]} de detectores de deepfake basados en redes neuronales convolucionales . La primera generación ^{[ 181 ]} utilizó redes neuronales recurrentes para detectar inconsistencias espaciotemporales para identificar artefactos visuales dejados por el proceso de generación de deepfake. El algoritmo logró una precisión del 96% en FaceForensics++, el único punto de referencia de deepfake a gran escala disponible en ese momento. La segunda generación ^{[ 182 ]} utilizó redes profundas de extremo a extremo para diferenciar entre artefactos e información facial semántica de alto nivel utilizando redes de dos ramas. La primera rama propaga información de color mientras que la otra rama suprime el contenido facial y amplifica frecuencias de bajo nivel utilizando Laplaciano de Gauss (LoG) .

Otras técnicas sugieren que la cadena de bloques podría utilizarse para verificar la fuente de los medios. ^{[ 183 ]} Por ejemplo, un vídeo podría tener que verificarse mediante el registro antes de mostrarse en plataformas de redes sociales. ^{[ 183 ]} Con esta tecnología, solo se aprobarían los vídeos de fuentes fiables, lo que disminuiría la difusión de contenido deepfake potencialmente dañino. ^{[ 183 ]}

Se sugirió firmar digitalmente todos los vídeos e imágenes grabados con cámaras, incluidas las de los teléfonos inteligentes, para combatir las falsificaciones profundas (deepfakes). ^{[ 184 ]} Esto permite rastrear cada fotografía o vídeo hasta su propietario original, lo que puede utilizarse para perseguir a disidentes. ^{[ 184 ]}

Una forma sencilla de descubrir videollamadas deepfake consiste en pedirle a la persona que llama que se ponga de lado. ^{[ 185 ]}

Detección y regulación de deepfakes

Expertos legales cuestionan activamente si los marcos regulatorios actuales y emergentes equilibran adecuadamente los avances en la detección de deepfakes con la protección de los derechos individuales. La legislación pertinente que se está examinando incluye la Ley de IA de la UE , el Reglamento General de Protección de Datos (RGPD), la Ley de Servicios Digitales de la Unión Europea, así como las leyes estatales y federales fragmentadas de Estados Unidos, la Ley de Seguridad en Línea de 2023 del Reino Unido y las Disposiciones Administrativas de China sobre Síntesis Profunda en Servicios de Información Basados en Internet (conocidas comúnmente como Disposiciones de Síntesis Profunda). ^{[ 186 ]} Los académicos están evaluando si estos marcos abordan eficazmente la compleja interacción entre tecnología, derechos y responsabilidades en el contexto de los deepfakes. ^{[ 187 ]}

Prevención

Henry Ajder, quien trabaja para Deeptrace, una empresa que detecta deepfakes, afirma que existen varias maneras de protegerse contra ellos en el lugar de trabajo. Se pueden usar contraseñas semánticas o preguntas de seguridad al mantener conversaciones importantes. La autenticación por voz y otras funciones de seguridad biométrica deben estar actualizadas. Es importante capacitar a los empleados sobre los deepfakes. ^{[ 169 ]}

Alfabetización mediática y deepfakes

Debido a la capacidad de los deepfakes para engañar a los espectadores e imitar de manera creíble a una persona, la investigación ha indicado que el concepto de verdad a través de la observación no puede confiarse completamente. ^{[ 188 ]} Además, la alfabetización tecnológica entre las poblaciones podría ponerse en tela de juicio debido al éxito relativamente reciente de los deepfakes convincentes. ^{[ 188 ]} Cuando se combina con la creciente facilidad de acceso a la tecnología, esto ha llevado a la preocupación entre algunos expertos de que algunas sociedades no están preparadas para interactuar con deepfakes de forma orgánica sin posibles consecuencias por compartir información errónea y desinformación. ^{[ 188 ]} La alfabetización mediática se ha considerado como un posible contrapeso para "preparar" a un espectador para identificar un deepfake cuando se encuentra con uno de forma orgánica al fomentar el pensamiento crítico. ^{[ 188 ]} Si bien la educación en alfabetización mediática puede tener resultados contradictorios en el éxito general de la detección de deepfakes, ^{[ 189 ]} la investigación ha indicado que el pensamiento crítico y una perspectiva escéptica hacia una pieza de medios presentada son eficaces para ayudar a una persona a determinar un deepfake. ^{[ 189 ]}^{[ 190 ]} Los marcos de alfabetización mediática promueven el análisis crítico de los medios y las motivaciones detrás de la presentación del contenido asociado y pueden reducir la vulnerabilidad a la desinformación. ^{[ 191 ]} La alfabetización mediática se muestra prometedora como una posible contramedida cognitiva al interactuar con deepfakes maliciosos. ^{[ 189 ]}

Controversias

En marzo de 2024, el Palacio de Buckingham publicó un video en el que anunciaba que Kate Middleton tenía cáncer y estaba recibiendo quimioterapia. La aparición de un anillo que Middleton llevaba en el video alimentó los rumores de que se trataba de un deepfake. ^{[ 192 ]} Johnathan Perkins, director de Raza y Equidad de la UCLA , dudó de que Middleton tuviera cáncer y especuló además que podría estar en estado crítico o haber fallecido. ^{[ 193 ]}

Política

Los investigadores han estudiado las capacidades y los efectos de los deepfakes cuando se utilizan en campañas de desinformación , incluido el potencial de los deepfakes para eludir el escepticismo de una persona e influir en sus opiniones sobre un tema. ^{[ 194 ]}^{[ 167 ]} A diferencia de la desinformación burda, la propaganda política a través de IA generativa a menudo se apropia de tropos culturales, medios visuales y sátira para crear mensajes emocionalmente resonantes que son difíciles de verificar sin perder matices. ^{[ 195 ]} Debido al continuo avance en la tecnología que mejora las capacidades engañosas de los deepfakes, algunos académicos creen que los deepfakes podrían representar una amenaza significativa para las sociedades democráticas. ^{[ 196 ]} Los estudios han investigado los efectos de los deepfakes políticos. ^{[ 194 ]}^{[ 196 ]}^{[ 167 ]} En dos estudios separados centrados en participantes holandeses, se encontró que los deepfakes tienen efectos variables en una audiencia. Como herramienta de desinformación, los deepfakes no necesariamente produjeron reacciones más fuertes o cambios en los puntos de vista que la desinformación textual tradicional. ^{[ 194 ]} Sin embargo, los deepfakes produjeron un efecto tranquilizador en individuos que tenían ideas preconcebidas que coincidían con el punto de vista promovido por la desinformación deepfake en el estudio. ^{[ 194 ]} Además, los deepfakes son efectivos cuando se diseñan para dirigirse a un segmento demográfico específico relacionado con un tema en particular. ^{[ 196 ]} La "microsegmentación" implica comprender los matices políticos de un grupo demográfico específico para crear un deepfake dirigido. El deepfake dirigido se utiliza luego para conectar e influir en el punto de vista de ese grupo demográfico. Algunos investigadores encontraron que los deepfakes dirigidos eran notablemente efectivos. ^{[ 196 ]} Otros investigadores en el Reino Unido encontraron que la desinformación política deepfake no tiene un efecto garantizado en las poblaciones más allá de las indicaciones de que puede sembrar desconfianza o incertidumbre en una fuente que proporciona el deepfake. ^{[ 167 ]} Las implicaciones de la desconfianza en las fuentes llevaron a esos investigadores a concluir que los deepfakes pueden tener un efecto desproporcionado en un entorno de información de "baja confianza" donde las instituciones públicas no son confiables para el público. ^{[ 167 ]}

En todo el mundo, existen casos clave en los que se han utilizado deepfakes para tergiversar la imagen de políticos conocidos y otras figuras públicas. ^{[ 197 ]}

Dividendo del mentiroso

El dividendo del mentiroso es un fenómeno político y social en el que, al enfrentarse a grabaciones de vídeo o audio auténticas, incriminatorias o vergonzosas, los individuos afirman que las grabaciones son de IA para desestimar las acusaciones y obtener simpatía. ^{[ 198 ]}

Eventos de ejemplo

Vídeo deepfake: Vladimir Putin advierte a los estadounidenses sobre la injerencia electoral y la creciente división política.

Barack Obama: El 17 de abril de 2018, el actor estadounidense Jordan Peele , BuzzFeed y Monkeypaw Productions publicaron en YouTube un deepfake de Barack Obama, en el que se le veía insultando y groserías contra Donald Trump. ^{[ 200 ]} En este deepfake, la voz y el rostro de Peele fueron transformados y manipulados para imitar a Obama. El objetivo de este video era mostrar las peligrosas consecuencias y el poder de los deepfakes, y cómo estos pueden hacer que cualquiera diga cualquier cosa.
Donald Trump: El 5 de mayo de 2019, Derpfakes publicó un deepfake de Donald Trump en YouTube, basado en un sketch que Jimmy Fallon realizó en The Tonight Show . ^{[ 201 ]} En el sketch original (emitido el 4 de mayo de 2016), Jimmy Fallon se vistió como Donald Trump y fingió participar en una llamada telefónica con Barack Obama, conversando de una manera que lo presentaba alardeando de su victoria en las primarias de Indiana. ^{[ 201 ]} En el deepfake, el rostro de Jimmy Fallon se transformó en el de Donald Trump, mientras que el audio permaneció igual. Este video deepfake fue producido por Derpfakes con una intención cómica. En marzo de 2023, una serie de imágenes parecieron mostrar a agentes del Departamento de Policía de Nueva York deteniendo a Trump. ^{[ 202 ]} Las imágenes, creadas con Midjourney , fueron publicadas inicialmente en Twitter por Eliot Higgins , pero luego se volvieron a compartir sin contexto, lo que llevó a algunos espectadores a creer que eran fotografías reales. ^{[ 199 ]}
Nancy Pelosi: En 2019, un fragmento del discurso de Nancy Pelosi en el Center for American Progress (pronunciado el 22 de mayo de 2019), en el que se ralentizó el vídeo y se alteró el tono del audio para simular que estaba ebria, se difundió ampliamente en redes sociales. Los críticos argumentan que no se trataba de un deepfake, sino de un shallowfake ,una forma menos sofisticada de manipulación de vídeo. ^{[ 203 ]}^{[ 204 ]}
Mark Zuckerberg: En mayo de 2019, dos artistas que colaboraban con la empresa CannyAI crearon un vídeo deepfake del fundador de Facebook, Mark Zuckerberg, hablando sobre la recopilación y el control de datos de miles de millones de personas. El vídeo formaba parte de una exposición para concienciar al público sobre los peligros de la inteligencia artificial . ^{[ 205 ]}^{[ 206 ]}
Kim Jong-un y Vladimir Putin: El 29 de septiembre de 2020, se subieron a YouTube deepfakes del líder norcoreano Kim Jong-un y del presidente ruso Vladimir Putin , creados por el grupo de defensa no partidista RepresentUs . ^{[ 207 ]} Los deepfakes de Kim y Putin estaban destinados a ser emitidos públicamente como anuncios para transmitir la idea de que la interferencia de estos líderes en las elecciones estadounidenses sería perjudicial para la democracia de Estados Unidos. Los anuncios también buscaban impactar a los estadounidenses para que se dieran cuenta de la fragilidad de la democracia y de cómo los medios de comunicación y las noticias pueden influir significativamente en el rumbo del país, independientemente de su credibilidad. ^{[ 207 ]} Sin embargo, aunque los anuncios incluían un comentario final que detallaba que las imágenes no eran reales, finalmente no se emitieron debido a los temores y la sensibilidad respecto a cómo podrían reaccionar los estadounidenses. ^{[ 207 ]} El 5 de junio de 2023, una fuente desconocida emitió un supuesto deepfake de Vladimir Putin en varias cadenas de radio y televisión. En el clip, Putin parece pronunciar un discurso anunciando la invasión de Rusia y pidiendo una movilización general del ejército. ^{[ 208 ]}
Volodymyr Zelenskyy: El 16 de marzo de 2022, un vídeo deepfake de un minuto de duración que mostraba al presidente de Ucrania, Volodymyr Zelenskyy, aparentemente ordenando a sus soldados que depusieran las armas y se rindieran durante la invasión rusa de Ucrania en 2022, circuló en redes sociales. ^{[ 168 ]} Las redes sociales rusas lo difundieron, pero tras ser desmentido, Facebook y YouTube lo eliminaron. Twitter permitió el vídeo en tuits donde se exponía su falsedad, pero advirtió que se eliminaría si se publicaba con la intención de engañar a la gente. Unos hackers insertaron la desinformación en un texto desplazable en directo en el canal de televisión Ukraine 24, y el vídeo apareció brevemente en la página web del canal, junto con afirmaciones falsas de que Zelenskyy había huido de Kiev , la capital del país . No quedó claro de inmediato quién creó el deepfake, al que Zelenskyy respondió con su propio vídeo, diciendo: «No pensamos deponer las armas. Hasta nuestra victoria». ^{[ 209 ]}
Noticias del Lobo: A finales de 2022, propagandistas pro-China comenzaron a difundir vídeos deepfake que supuestamente provenían de "Wolf News" y que utilizaban actores sintéticos. La tecnología fue desarrollada por una empresa londinense llamada Synthesia, que la comercializa como una alternativa económica a los actores reales para vídeos de formación y recursos humanos. ^{[ 210 ]}
Papa Francisco: En marzo de 2023, un trabajador de la construcción anónimo de Chicago utilizó Midjourney para crear una imagen falsa del Papa Francisco con una chaqueta acolchada blanca de Balenciaga . La imagen se viralizó, recibiendo más de veinte millones de visualizaciones. ^[²¹¹^] El escritor Ryan Broderick la calificó como "el primer caso real de desinformación masiva mediante IA". ^[²¹²^] Los expertos consultados por Slate caracterizaron la imagen como poco sofisticada: "podrías haberla hecho con Photoshop hace cinco años". ^[²¹³^]
Keir Starmer: En octubre de 2023, se difundió un audio manipulado mediante deepfake en el que supuestamente el líder del Partido Laborista británico , Keir Starmer, insultaba a sus colaboradores, el primer día de una conferencia del partido. El audio pretendía ser una grabación de Starmer insultando a sus colaboradores. ^{[ 214 ]}
Rashmika Mandanna: A principios de noviembre de 2023, la famosa actriz del sur de la India , Rashmika Mandanna, fue víctima de un deepfake cuando un video manipulado de la famosa influencer británico-india Zara Patel, con el rostro de Rashmika, comenzó a circular en las redes sociales. Zara Patel afirma no haber participado en su creación. ^{[ 215 ]}
Bongbong Marcos: En abril de 2024, se publicó un video deepfake que tergiversaba al presidente filipino Bongbong Marcos . Se trata de una presentación de diapositivas acompañada de un audio deepfake de Marcos supuestamente ordenando a las Fuerzas Armadas de Filipinas y a la fuerza especial que actuaran "de la manera que fuera apropiada" si China atacaba a Filipinas. El video se publicó en medio de tensiones relacionadas con la disputa del Mar de China Meridional . ^{[ 216 ]} La Oficina de Comunicaciones Presidenciales ha dicho que no existe tal directiva del presidente y ha dicho que un agente extranjero podría estar detrás de los medios fabricados. ^{[ 217 ]} La Kapisanan ng mga Brodkaster ng Pilipinas ha presentado cargos penales en relación con los medios deepfake. ^{[ 218 ]} El 22 de julio de 2024, Claire Contreras, una ex partidaria de Marcos, publicó un video de Marcos supuestamente inhalando drogas ilegales. Conocido como el vídeo del polvorón , los medios de comunicación señalaron su coherencia con la insinuación del predecesor de Marcos, Rodrigo Duterte , de que Marcos era drogadicto; el vídeo también se mostró en una manifestación de Hakbang ng Maisug organizada por personas afines a Duterte. ^{[ 219 ]} Dos días después, la Policía Nacional de Filipinas y la Oficina Nacional de Investigación , basándose en sus propias conclusiones, determinaron que el vídeo se había creado con IA; además, señalaron inconsistencias entre la persona que aparecía en el vídeo junto a Marcos, como detalles en las orejas de ambas personas. ^{[ 220 ]}
Joe Biden: Antes de las elecciones presidenciales de Estados Unidos de 2024 , se realizaron llamadas telefónicas imitando la voz del entonces presidente Joe Biden para disuadir a la gente de votar por él. El responsable de las llamadas fue acusado de supresión de votantes y suplantación de identidad de un candidato. La FCC propuso multarlo con 6 millones de dólares y a Lingo Telecom , la empresa que supuestamente retransmitió las llamadas, con 2 millones de dólares. ^{[ 221 ]}^{[ 222 ]}
Grupo Arup: La empresa Arup Group perdió 25 millones de dólares en 2024 debido a una estafa de deepfake. ^{[ 223 ]}
Sara Duterte: El senador filipino Ronald dela Rosa compartió el 14 de junio de 2025 un video deepfake de 40 segundos creado con Veo , en el que dos estudiantes en la calle testificaban sobre por qué el proceso de destitución contra la vicepresidenta Sara Duterte era selectivo y tenía motivaciones políticas. ^{[ 224 ]} Dela Rosa elogió a los supuestos jóvenes por sus opiniones. Al ser informado de que se trataba de un video de IA, dijo que, de ser así, el creador del video tenía razón. ^{[ 225 ]} La propia Duterte defendió a Dela Rosa, insistiendo en que compartir un video de IA no es incorrecto siempre y cuando sea "sin fines de lucro". ^{[ 226 ]}

Catherine Connolly: En octubre de 2025, la candidata presidencial irlandesa Catherine Connolly condenó un vídeo deepfake generado por IA que imitaba un reportaje de RTÉ News y afirmaba falsamente que se retiraba de las elecciones presidenciales; su campaña denunció el vídeo a las plataformas de redes sociales en las que apareció. ^{[ 227 ]}^{[ 228 ]}

Respuestas

Plataformas de redes sociales

El sitio de chat Discord tomó medidas contra la pornografía deepfake en 2018, ^{[ 229 ]} y ha adoptado una postura general contra los deepfakes. ^{[ 230 ]}^{[ 231 ]} Gfycat comenzó a eliminar todos los deepfakes de su sitio el 31 de enero de 2018. ^{[ 232 ]}^{[ 230 ]}

Reddit prohibió el subreddit r/deepfakes el 7 de febrero de 2018, debido a la violación de la política de "pornografía involuntaria". ^{[ 233 ]}^{[ 234 ]} También en febrero de 2018, Pornhub dijo que prohibiría los videos deepfake en su sitio web porque se considera "contenido no consensuado" que viola sus términos de servicio. ^{[ 235 ]} También habían declarado previamente que eliminarían el contenido marcado como deepfakes. ^{[ 236 ]} Escritores de Motherboard informaron que al buscar "deepfakes" en Pornhub todavía aparecían varios videos deepfake recientes. ^{[ 235 ]}

Google agregó "imágenes pornográficas sintéticas involuntarias" a su lista de prohibición en septiembre de 2018, lo que permite a cualquiera solicitar el bloqueo de los resultados que muestran sus desnudos falsos. ^{[ 237 ]} En mayo de 2022, Google cambió oficialmente los términos de servicio para sus Jupyter Notebook colabs , prohibiendo el uso de su servicio colab con el propósito de crear deepfakes. ^{[ 238 ]} Esto ocurrió unos días después de la publicación de un artículo de VICE en el que su autor, Emanuel Maiberg, informó que "la mayoría de los deepfakes son pornografía no consensuada" y que el uso principal del popular software deepfake DeepFaceLab (DFL), "la tecnología más importante que impulsa la gran mayoría de esta generación de deepfakes", que a menudo se usaba en combinación con Google colabs, era para crear pornografía no consensuada. Maiberg señaló que entre muchos otros ejemplos conocidos de implementaciones de DFL de terceros, como los deepfakes encargados por The Walt Disney Company , los vídeos musicales oficiales y la serie web Sassy Justice de los creadores de South Park y la página de GitHub de DFL , también se vincularon con el sitio web de pornografía deepfake MrDeepFakes , en el que también participan miembros del servidor Discord de DFL. ^{[ 239 ]}

Facebook ha declarado previamente que no eliminaría los deepfakes de sus plataformas. ^{[ 240 ]} En cambio, los videos serán marcados como falsos por terceros y luego tendrán una prioridad menor en los feeds de los usuarios. ^{[ 241 ]} Esta respuesta se produjo en junio de 2019 después de que un deepfake que presentaba un video de 2016 de Mark Zuckerberg circulara en Facebook e Instagram . ^{[ 240 ]} Posteriormente, Facebook ha tomado esfuerzos para fomentar la creación de deepfakes con el fin de desarrollar software de detección de deepfakes de última generación. Facebook fue el socio principal en la organización del Deepfake Detection Challenge (DFDC), celebrado en diciembre de 2019, para 2114 participantes que generaron más de 35 000 modelos. ^{[ 242 ]} Los modelos con mejor rendimiento y mayor precisión de detección fueron analizados para encontrar similitudes y diferencias; estos hallazgos son áreas de interés para futuras investigaciones con el fin de mejorar y refinar los modelos de detección de deepfakes. ^{[ 242 ]} Facebook también ha detallado que la plataforma eliminará el contenido multimedia generado con inteligencia artificial utilizada para alterar el discurso de una persona. ^{[ 243 ]} Sin embargo, el contenido multimedia que haya sido editado para alterar el orden o el contexto de las palabras en un mensaje permanecerá en el sitio, pero se etiquetará como falso, ya que no fue generado por inteligencia artificial. ^{[ 243 ]}

En febrero de 2018, representantes de Twitter (ahora X) declararon que suspenderían las cuentas sospechosas de publicar contenido deepfake no consensuado. ^{[ 244 ]} En 2019, Twitter anunció que estaba solicitando comentarios del público sobre una posible política para el manejo de "medios sintéticos y manipulados". ^{[ 245 ]} Según el borrador de la política, TechCrunch informó que Twitter "etiquetaría y advertiría, pero no siempre eliminaría, los medios manipulados". ^{[ 246 ]}En agosto de 2024, los secretarios de estado de Minnesota, Pensilvania, Washington, Michigan y Nuevo México escribieron una carta abierta al propietario de X, Elon Musk, instándolo a modificar el nuevo generador de texto a video de su chatbot de IA Grok , agregado en agosto de 2024, afirmando que había difundido desinformación electoral. ^[²⁴⁷^]^[²⁴⁸^]^[²⁴⁹^]

Legislación

En Estados Unidos, se han dado algunas respuestas a los problemas que plantean los deepfakes. En 2018, se presentó en el Senado de los Estados Unidos la Ley de Prohibición de Deepfakes Maliciosos ; ^{[ 250 ]} en 2019, la representante del noveno distrito congresional de Nueva York, Yvette Clarke , presentó en el 116.º Congreso de los Estados Unidos la Ley de Responsabilidad por Deepfakes. ^[²⁵¹^]

En 2024, más de la mitad de los casos documentados de fraude de identidad involucraron falsificaciones creadas por IA, ^{[ 252 ]} lo que llevó a varios estados a presentar legislación sobre deepfakes, incluidos Virginia, ^{[ 253 ]} Texas, California y Nueva York; ^{[ 254 ]} se han presentado cargos tan variados como robo de identidad , ciberacoso y porno de venganza , mientras que se instan a la creación de estatutos más completos. ^{[ 237 ]}

Entre los esfuerzos legislativos de EE. UU., el 3 de octubre de 2019, el gobernador de California, Gavin Newsom, promulgó las leyes de la Asamblea n.° 602 y n.° 730. ^{[ 255 ]}^{[ 256 ]} La Ley de la Asamblea n.° 602 proporciona a las personas que son blanco de contenido deepfake sexualmente explícito creado sin su consentimiento una causa de acción contra el creador del contenido. ^{[ 255 ]} La Ley de la Asamblea n.° 730 prohíbe la distribución de medios audiovisuales deepfake maliciosos dirigidos a un candidato que se postula para un cargo público dentro de los 60 días de su elección. ^{[ 256 ]} La representante de EE. UU. Yvette Clarke presentó HR 5586: Ley de Responsabilidad de Deepfakes en el 118.º Congreso de los Estados Unidos el 20 de septiembre de 2023 en un esfuerzo por proteger la seguridad nacional de las amenazas que plantea la tecnología deepfake. ^{[ 257 ]} La representante estadounidense María Salazar presentó el proyecto de ley HR 6943: Ley contra el fraude de la IA en el 118.º Congreso de los Estados Unidos el 10 de enero de 2024, para establecer derechos de propiedad específicos sobre la fisicalidad individual, incluida la voz. ^{[ 258 ]}

Respuesta de DARPA

En 2016, la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA) lanzó el programa Media Forensics (MediFor), que recibió financiación hasta 2020. ^{[ 259 ]} MediFor tenía como objetivo detectar automáticamente la manipulación digital en imágenes y vídeos, incluidos los deepfakes . ^{[ 260 ]}^{[ 261 ]} En el verano de 2018, MediFor organizó un evento en el que los participantes compitieron para crear vídeos, audios e imágenes generados por IA, así como herramientas automatizadas para detectar estos deepfakes. ^{[ 262 ]} Según el programa MediFor, se estableció un marco de tres niveles de información —integridad digital, integridad física e integridad semántica— para generar una puntuación de integridad con el fin de permitir la detección precisa de medios manipulados. ^{[ 263 ]}

En 2019, DARPA organizó un "día de propuestas" para el programa de Análisis Forense Semántico (SemaFor), donde los investigadores se centraron en prevenir la propagación viral de medios manipulados por IA. ^{[ 264 ]} DARPA y el Programa de Análisis Forense Semántico también colaboraron para detectar medios manipulados por IA mediante el entrenamiento de computadoras para que utilizaran el sentido común y el razonamiento lógico. ^{[ 264 ]} Basados en las tecnologías de MediFor, los algoritmos de atribución de SemaFor infieren si los medios digitales provienen de una organización o individuo en particular, mientras que los algoritmos de caracterización determinan si los medios fueron generados o manipulados con fines maliciosos. ^{[ 265 ]} En marzo de 2024, SemaFor publicó un catálogo analítico que ofrece al público acceso a recursos de código abierto desarrollados bajo SemaFor. ^{[ 266 ]}^{[ 267 ]}

Panel Internacional sobre el Entorno de la Información

El Panel Internacional sobre el Entorno de la Información se creó en 2023 como un consorcio de más de 250 científicos que trabajan para desarrollar contramedidas eficaces contra los deepfakes y otros problemas creados por incentivos perversos en organizaciones que difunden información a través de Internet. ^{[ 268 ]}

Véase también

Referencias

1 2 Wahab, Abdul (1 de octubre de 2025). "Futuros de Deepfake y la sociedad: mitos, metáforas e implicaciones futuras para un futuro digital confiable" . Futures . 173 103672. doi : 10.1016/j.futures.2025.103672 . ISSN 0016-3287 .
^ Kalpokas, Ignas; Kalpokiene, Julija (2022). Falsificaciones profundas . Springer Cham. págs. 1– 2. doi : 10.1007/978-3-030-93802-4 . ISBN 978-3-030-93801-7.
↑ Berry, David M. (19 de marzo de 2025). "Medios sintéticos y capitalismo computacional: hacia una teoría crítica de la inteligencia artificial" . AI & Society . 40 (7): 5257– 5269. arXiv : 2503.18976 . doi : 10.1007/s00146-025-02265-2 . ISSN 1435-5655 .
↑ Maher, Sean William (2 de abril de 2026). "Deepfakes" . Enciclopedia . 6 (4): 80. doi : 10.3390/encyclopedia6040080 .
↑ Juefei-Xu, Felix; Wang, Run; Huang, Yihao; Guo, Qing; Ma, Lei; Liu, Yang (1 de julio de 2022). "Contrarrestando los deepfakes maliciosos: estudio, campo de batalla y horizonte" . Revista Internacional de Visión por Computadora . 130 (7): 1678– 1734. doi : 10.1007/s11263-022-01606-8 . ISSN 1573-1405 . PMC 9066404. PMID 35528632 .
1 2 Kietzmann, J.; Lee, LW; McCarthy, IP; Kietzmann, TC (2020). "Deepfakes: ¿Truco o trato?" ( PDF) . Business Horizons . 63 (2): 135– 146. doi : 10.1016/j.bushor.2019.11.006 . S2CID 213818098. Archivado (PDF) del original el 29 de diciembre de 2022. Recuperado el 30 de diciembre de 2022 .
↑ Waldrop, M. Mitchell (16 de marzo de 2020). «Medios sintéticos: El verdadero problema de los deepfakes» . Revista Knowable . Reseñas anuales. doi : 10.1146/knowable-031320-1 . Archivado del original el 19 de noviembre de 2022. Consultado el 19 de diciembre de 2022 .
↑ Schwartz, Oscar (12 de noviembre de 2018). "¿Creías que las noticias falsas eran malas? Los deepfakes son donde muere la verdad" . The Guardian . Archivado del original el 16 de junio de 2019. Recuperado el 14 de noviembre de 2018 .
↑ Farid, Hany (15 de septiembre de 2019). "Image Forensics" . Annual Review of Vision Science . 5 (1): 549– 573. doi : 10.1146/annurev-vision-091718-014827 . ISSN 2374-4642 . PMID 31525144. S2CID 263558880. Archivado del original el 10 de junio de 2024. Recuperado el 20 de septiembre de 2023 .
↑ Banks, Alec (20 de febrero de 2018). "¿Qué son los deepfakes y por qué el futuro del porno es aterrador?" . Highsnobiety . Archivado del original el 14 de julio de 2021. Recuperado el 20 de febrero de 2018 .
↑ Christian, Jon. "Los expertos temen que la tecnología de intercambio de rostros pueda desencadenar un enfrentamiento internacional" . The Outline . Archivado del original el 16 de enero de 2020. Consultado el 28 de febrero de 2018 .
↑ Roose, Kevin (4 de marzo de 2018). "Aquí vienen también los vídeos falsos" . The New York Times . ISSN 0362-4331 . Archivado del original el 18 de junio de 2019. Recuperado el 24 de marzo de 2018 .
↑ Schreyer, Marco; Sattarov, Timur; Reimer, Bernd; Borth, Damián (octubre de 2019). "Aprendizaje contradictorio de deepfakes en contabilidad". arXiv : 1910.03810 [ cs.LG ].
↑ "Peligros de los deepfakes: qué tener en cuenta | Informática Universitaria" . uit.stanford.edu . Consultado el 11 de agosto de 2025 .
↑ Savat, Sara (19 de agosto de 2024). "Los vídeos deepfake políticos no son más engañosos que otras noticias falsas, según una investigación" . The Source . Recuperado el 11 de agosto de 2025 .
↑ Caramancion, Kevin Matthe (21 de abril de 2021). "El perfil demográfico con mayor riesgo de desinformación" . Conferencia Internacional IEEE de IoT, Electrónica y Mecatrónica de 2021 (IEMTRONICS) . IEEE. págs. 1-7 . doi : 10.1109/iemtronics52119.2021.9422597 . ISBN 978-1-6654-4067-7. S2CID 234499888 . Archivado del original el 10 de junio de 2024 . Recuperado el 9 de junio de 2023 .
↑ Lalla, Vejay; Mitrani, Adine; Harned, Zach. «Inteligencia artificial: deepfakes en la industria del entretenimiento» . Organización Mundial de la Propiedad Intelectual . Archivado del original el 8 de noviembre de 2022. Consultado el 8 de noviembre de 2022 .
1 2 3 Harwell, Drew (12 de junio de 2019). "Los principales investigadores de IA compiten por detectar vídeos 'deepfake': 'Estamos en desventaja'"" . The Washington Post . Archivado del original el 31 de octubre de 2019 . Consultado el 8 de noviembre de 2019 .
↑ Sánchez, Julián (8 de febrero de 2018). "Gracias a la IA, el futuro de las 'noticias falsas' se está gestando en la pornografía casera" . NBC News . Archivado del original el 9 de noviembre de 2019. Consultado el 8 de noviembre de 2019 .
1 2 3 4 Porter, Jon (2 de septiembre de 2019). "Otra aplicación de deepfake convincente se vuelve viral y provoca una reacción inmediata en materia de privacidad" . The Verge . Archivado del original el 3 de septiembre de 2019. Recuperado el 8 de noviembre de 2019 .
1 2 3 Masood, Momina; Nawaz, Mariam; Malik, Khalid Mahmood; Javed, Ali; Irtaza, Aun; Malik, Hafiz (febrero de 2023). "Generación y detección de deepfakes: estado del arte, desafíos abiertos, contramedidas y camino a seguir". Applied Intelligence . 53 (4): 2– 5. doi : 10.1007/s10489-022-03766-z .
↑ Keith D., Foote. "Una breve historia de la IA generativa" . Dataversity .
↑ Vatreš, Amina (2021). "Fenómeno deepfake: una forma avanzada de noticias falsas y sus implicaciones para el periodismo confiable" . Društvene i humanističke studije . 16 (3): 561– 576. doi : 10.51558/2490-3647.2021.6.3.561 .
^ Rana, doctor Shohel; Nobi, Mohammad Nur; Murali, Beddhu; Cantado, Andrew H. (2022). "Detección de deepfake: una revisión sistemática de la literatura" . Acceso IEEE . 10 : 25494– 25513. Código bibliográfico : 2022IEEEA..1025494R . doi : 10.1109/ACCESS.2022.3154404 . ISSN 2169-3536 .
↑ Sudarsan, Ananya; Chua, Hui Na; Jasser, Muhammed Basheer; Wong, Richard TK (1 de marzo de 2024). "Caracterización, propagación y detección de deepfakes en redes sociales: una revisión de síntesis". 2024 20.º Coloquio Internacional IEEE sobre Procesamiento de Señales y sus Aplicaciones (CSPA) . IEEE. págs. 219–224 . doi : 10.1109/CSPA60979.2024.10525373 . ISBN 979-8-3503-8231-0.
↑ Sudarsan, Ananya; Chua, Hui Na; Jasser, Muhammed Basheer; Wong, Richard TK (1 de marzo de 2024). "Caracterización, propagación y detección de deepfakes en redes sociales: una revisión de síntesis". 2024 20.º Coloquio Internacional IEEE sobre Procesamiento de Señales y sus Aplicaciones (CSPA) . IEEE. págs. 219–224 . doi : 10.1109/CSPA60979.2024.10525373 . ISBN 979-8-3503-8231-0.
↑ Sudarsan, Ananya; Chua, Hui Na; Jasser, Muhammed Basheer; Wong, Richard TK (1 de marzo de 2024). "Caracterización, propagación y detección de deepfakes en redes sociales: una revisión de síntesis". 2024 20.º Coloquio Internacional IEEE sobre Procesamiento de Señales y sus Aplicaciones (CSPA) . IEEE. págs. 219–224 . doi : 10.1109/CSPA60979.2024.10525373 . ISBN 979-8-3503-8231-0.
↑ Bode, Lisa; Lees, Dominic; Golding, Dan (29 de julio de 2021). "El rostro digital y los deepfakes en pantalla" . Convergence: The International Journal of Research into New Media Technologies . 27 (4): 849– 854. doi : 10.1177/13548565211034044 . ISSN 1354-8565 . S2CID 237402465 .
↑ "Ley de eliminación de contenido para adultos en plataformas de creadores de contenido" . copyrightshark.com . Marzo de 2026. Consultado el 20 de marzo de 2026 .
1 2 Holliday, Christopher (26 de julio de 2021). "Reescribiendo las estrellas: tensiones superficiales y problemas de género en la producción de deepfakes digitales en los medios en línea" . Convergence: The International Journal of Research into New Media Technologies . 27 (4): 899– 918. doi : 10.1177/13548565211029412 . ISSN 1354-8565 . S2CID 237402548 .
↑ Gingrich, Oliver M. (5 de julio de 2021). "GENDER*UCK: Replantear el género y el arte mediático" . Actas de EVA London 2021 (EVA 2021) . Talleres electrónicos en informática. doi : 10.14236/ewic/EVA2021.25 . S2CID 236918199 .
↑ Fletcher, John (2018). "Deepfakes, inteligencia artificial y algún tipo de distopía: las nuevas caras de la performance posfactual en línea" . Theatre Journal . 70 (4): 455– 471. doi : 10.1353/tj.2018.0097 . ISSN 1086-332X . S2CID 191988083 .
↑ de Seta, Gabriele (30 de julio de 2021). "Huanlian, o caras cambiantes: Deepfakes en plataformas de medios digitales chinas" . Convergence : The International Journal of Research into New Media Technologies . 27 (4): 935– 953. doi : 10.1177/13548565211030185 . hdl : 11250/2833613 . ISSN 1354-8565 . S2CID 237402447. Archivado del original el 10 de junio de 2024. Recuperado el 9 de febrero de 2022 .
1 2 Bregler, Christoph; Covell, Michele; Slaney, Malcolm (1997). "Video Rewrite: Driving visual speech with audio" . Actas de la 24.ª conferencia anual sobre gráficos por computadora y técnicas interactivas – SIGGRAPH '97 . Vol. 24. págs. 353–360 . doi : 10.1145/258734.258880 . ISBN 0-89791-896-7. S2CID 2341707 . Archivado del original el 10 de junio de 2024 . Recuperado el 10 de julio de 2023 .
1 2 3 Suwajanakorn, Supasorn; Seitz, Steven M.; Kemelmacher-Shlizerman, Ira (julio de 2017). "Sintetizando a Obama: Aprendiendo sincronización labial a partir de audio" . ACM Trans. Graph . 36 (4): 95:1–95:13. doi : 10.1145/3072959.3073640 . S2CID 207586187. Archivado del original el 19 de mayo de 2020. Recuperado el 10 de julio de 2023 .
1 2 Thies, Justus; Zollhöfer, Michael; Stamminger, Marc; Theobalt, Christian; Nießner, Matthias (junio de 2016). "Face2Face: Captura facial en tiempo real y recreación de vídeos RGB". Conferencia IEEE de 2016 sobre visión por computadora y reconocimiento de patrones (CVPR) . IEEE. págs. 2387–2395 . arXiv : 2007.14808 . doi : 10.1109/CVPR.2016.262 . ISBN 978-1-4673-8851-1. S2CID 206593693 .
↑ Mirsky, Yisroel; Mahler, Tom; Shelef, Ilan; Elovici, Yuval (2019). CT-GAN: Manipulación maliciosa de imágenes médicas 3D mediante aprendizaje profundo . págs. 461–478 . arXiv : 1901.03597 . ISBN 978-1-939133-06-9Archivado del original el 20 de junio de 2020. Consultado el 18 de junio de 2020 .
↑ O'Neill, Patrick Howell (3 de abril de 2019). "Investigadores demuestran un software malicioso que puede engañar a los médicos para que diagnostiquen erróneamente el cáncer" . Gizmodo . Archivado del original el 10 de junio de 2024. Consultado el 3 de junio de 2022 .
↑ Mirsky, Yisroel; Lee, Wenke (12 de mayo de 2020). "La creación y detección de deepfakes: una revisión". ACM Computing Surveys . arXiv : 2004.11138 . doi : 10.1145/3425780 . S2CID 216080410 .
↑ Karnouskos, Stamatis (2020). "Inteligencia artificial en los medios digitales: la era de los deepfakes" (PDF) . IEEE Transactions on Technology and Society . 1 (3): 138. Bibcode : 2020ITTS....1..138K . doi : 10.1109 /TTS.2020.3001312 . S2CID 221716206. Archivado (PDF) del original el 14 de julio de 2021. Recuperado el 9 de julio de 2020 .
1 2 Cole, Samantha (24 de enero de 2018). "Estamos realmente jodidos: ahora todo el mundo hace porno falso generado por IA" . Vice . Archivado del original el 7 de septiembre de 2019. Recuperado el 4 de mayo de 2019 .
↑ Haysom, Sam (31 de enero de 2018). "La gente está usando tecnología de intercambio de rostros para agregar a Nicolas Cage a películas aleatorias y ¿qué es 2018?" . Mashable . Archivado del original el 24 de julio de 2019. Recuperado el 4 de abril de 2019 .
↑ Lyu, Siwei (julio de 2020). "Detección de deepfakes: desafíos actuales y próximos pasos". 2020 IEEE International Conference on Multimedia & Expo Workshops (ICMEW) . pág. 1. arXiv : 2003.09234 . doi : 10.1109/ICMEW46912.2020.9105991 . ISBN 978-1-7281-1485-9.
↑ Hathaway, Jay (8 de febrero de 2018). "Aquí es donde fueron los 'deepfakes', el nuevo porno falso de celebridades, después de la prohibición de Reddit" . The Daily Dot . Archivado del original el 6 de julio de 2019. Recuperado el 22 de diciembre de 2018 .
↑ "¿Qué es un deepfake y cómo se crean?" . Consejos de tecnología en línea . 23 de mayo de 2019. Archivado del original el 8 de noviembre de 2019. Consultado el 20 de diciembre de 2025 .
↑ Robertson, Adi (11 de febrero de 2018). "Estoy usando IA para intercambiar las caras de Elon Musk y Jeff Bezos, y soy realmente malo en ello" . The Verge . Archivado del original el 24 de marzo de 2018. Recuperado el 8 de noviembre de 2019 .
↑ "Deepfakes web | La mejor aplicación online para intercambiar caras" . Deepfakes web . Archivado del original el 14 de julio de 2021. Consultado el 21 de febrero de 2021 .
↑ "Faceswap es el software Deepfakes multiplataforma gratuito y de código abierto líder" . 15 de octubre de 2019. Archivado del original el 31 de mayo de 2021. Recuperado el 14 de julio de 2021 a través de WordPress.
↑ "DeepFaceLab es una herramienta que utiliza aprendizaje automático para reemplazar rostros en videos. Incluye un binario independiente precompilado y listo para usar en Windows 7, 8 y 10 (ver readme.md).: iperov/DeepFaceLab" . 19 de junio de 2019. Archivado del original el 9 de mayo de 2019. Recuperado el 6 de marzo de 2019 a través de GitHub.
↑ Chandler, Simon. "Por qué los deepfakes son un beneficio neto para la humanidad" . Forbes . Archivado del original el 16 de noviembre de 2020. Consultado el 3 de noviembre de 2020 .
↑ Pangburn, DJ (21 de septiembre de 2019). "Estás advertido: los deepfakes de cuerpo completo son el siguiente paso en la imitación humana basada en IA" . Fast Company . Archivado del original el 8 de noviembre de 2019. Recuperado el 8 de noviembre de 2019 .
↑ Lyons, Kim (29 de enero de 2020). "La FTC afirma que la tecnología detrás de los deepfakes de audio está mejorando" . The Verge . Archivado del original el 30 de enero de 2020. Recuperado el 8 de febrero de 2020 .
↑ "Muestras de audio de "Aprendizaje por transferencia desde la verificación del hablante hasta la síntesis de voz con múltiples hablantes"" . google.github.io . Archivado del original el 14 de noviembre de 2019 . Recuperado el 8 de febrero de 2020 .
↑ "FaceForensics++: Aprendizaje para detectar imágenes faciales manipuladas" . Conferencia Internacional IEEE sobre Visión por Computadora . 2019.
↑ "Facebook AI lanza su desafío de detección de deepfakes" . IEEE Spectrum . 11 de diciembre de 2019. Consultado el 6 de mayo de 2026 .
↑ "Aportando datos a la investigación sobre detección de deepfakes" . Google Research . 24 de septiembre de 2019. Archivado del original el 5 de febrero de 2020. Consultado el 8 de febrero de 2020 .
↑ Thalen, Mikael. "Ahora puedes convertirte en una celebridad mediante deepfake con solo unos clics" . daily.dot . Archivado del original el 6 de abril de 2020. Consultado el 3 de abril de 2020 .
↑ Matthews, Zane (6 de marzo de 2020). "Diversión o miedo: una aplicación deepfake inserta rostros de famosos en tus selfies" . Kool1079 . Archivado del original el 24 de marzo de 2020. Recuperado el 6 de marzo de 2020 .
↑ van der Sloot, Bart (2024). Regulating the Synthetic Society : Generative AI, Legal Questions, and Societal Challenges . Bloomsbury Academic. ISBN 978-1-5099-7495-5Consultado el 21 de noviembre de 2025 .
↑ «Kanye West, Kim Kardashian y su padre: ¿Deberíamos hacer hologramas de los muertos?» . BBC News . 31 de octubre de 2020. Archivado del original el 15 de noviembre de 2020. Consultado el 11 de noviembre de 2020 .
↑ "Kanye West le regaló a Kim Kardashian un holograma de su padre por su cumpleaños" . themodems . 30 de octubre de 2020. Archivado del original el 11 de noviembre de 2020. Consultado el 11 de noviembre de 2020 .
↑ "Joaquín Oliver, víctima de Parkland, vuelve a la vida en un conmovedor llamado a los votantes" . adage.com . 2 de octubre de 2020. Archivado del original el 11 de noviembre de 2020. Consultado el 11 de noviembre de 2020 .
↑ Bowenbank, Starr (14 de septiembre de 2022). "Simon Cowell canta a dúo con Elvis en la última actuación deepfake de Metaphysic en 'AGT': Míralo" . Billboard . Archivado del original el 15 de septiembre de 2022. Recuperado el 8 de noviembre de 2022 .
↑ Zucconi, Alan (14 de marzo de 2018). "Comprendiendo la tecnología detrás de los deepfakes" . Alan Zucconi . Archivado del original el 1 de noviembre de 2019. Recuperado el 8 de noviembre de 2019 .
↑ "¿Qué es un deepfake?" . Blog - Synthesys . 3 de mayo de 2022. Archivado del original el 26 de junio de 2022 . Consultado el 17 de mayo de 2022 .
↑ Ayata, Ozan. "Realidades artificiales: medidas de mitigación contra los deepfakes" (PDF) . Centro para la Innovación en la Gobernanza Internacional . Consultado el 4 de febrero de 2026 .
1 2 "Estos nuevos trucos pueden burlar los vídeos deepfake, por ahora" . Wired . ISSN 1059-1028 . Archivado del original el 3 de octubre de 2019. Consultado el 9 de noviembre de 2019 .
↑ Kemp, Luke (8 de julio de 2019). "¿En la era de los deepfakes, podrían los actores virtuales dejar sin trabajo a los humanos?" . The Guardian . ISSN 0261-3077 . Archivado del original el 20 de octubre de 2019. Consultado el 20 de octubre de 2019 .
↑ Verma, Pranshu (21 de julio de 2023). "Los clones digitales creados con tecnología de IA podrían dejar obsoletos a los extras de Hollywood" . Washington Post . Archivado del original el 20 de julio de 2023. Consultado el 4 de enero de 2024 .
1 2 "Intercambio neuronal de rostros de alta resolución para efectos visuales | Disney Research Studios" . Archivado del original el 27 de noviembre de 2020. Recuperado el 7 de octubre de 2020 .
1 2 "La tecnología deepfake de Disney podría usarse en cine y televisión" . Blooloop . 21 de julio de 2020. Archivado del original el 12 de noviembre de 2020. Consultado el 7 de octubre de 2020 .
↑ Lindley, Jon A. (2 de julio de 2020). "Disney se aventura a revivir a 'actores fallecidos' mediante reconocimiento facial" . Tech Times . Archivado del original el 14 de julio de 2021. Consultado el 7 de octubre de 2020 .
↑ Radulovic, Petrana (17 de octubre de 2018). "Harrison Ford es la estrella de Solo: Una historia de Star Wars gracias a la tecnología deepfake" . Polygon . Archivado del original el 20 de octubre de 2019. Recuperado el 20 de octubre de 2019 .
↑ Winick, Erin. "Cómo interpretar a la marioneta de Carrie Fisher impulsó la carrera de la Princesa Leia en Rogue One" . MIT Technology Review . Archivado del original el 23 de octubre de 2019. Consultado el 20 de octubre de 2019 .
↑ "El deepfake de Luke Skywalker es otro paso más en la macabra senda de los efectos especiales generados por ordenador" . British GQ . 10 de febrero de 2022. Archivado del original el 22 de mayo de 2022. Consultado el 3 de junio de 2022 .
↑ "No fue Vijay, aquí está quién interpretó su versión joven en The GOAT" . english.tupaki.com/ . 8 de septiembre de 2024. Consultado el 8 de noviembre de 2024 .
↑ Constantine, Megan; Lim, Audrey; Glass, Lia; Webb, Melanie; Simpson, Kyle; Carrion, Joey; DeMoraes, Isa; Olatunde, Timi; Westerman, Reagan; Rybachek, Anna; Gunn, Nicholas (24 de octubre de 2025). "The Student Movement Volumen 110 Número 5: En el mercado de la gastronomía y el K-Pop" . The Student Movement V. 110 (2025-2026) .
↑ Katerina Cizek, William Uricchio y Sarah Wolozin: Sabiduría colectiva | Instituto Tecnológico de MassachusettsArchivado el 4 de marzo de 2020 en Wayback Machine.
↑ "ANSA | Ornella Muti in cortometraggio a Firenze" . 3 de noviembre de 2017. Archivado del original el 27 de febrero de 2020. Recuperado el 27 de febrero de 2020 .
↑ "Los creadores de 'South Park' lanzan una nueva serie satírica de deepfake llamada 'Sassy Justice'." . NME . 27 de octubre de 2020. Archivado del original el 10 de junio de 2024 . Consultado el 7 de junio de 2022 .
1 2 Tayler, Kelley M.; Harris, Laurie A. (8 de junio de 2021). Deep Fakes y seguridad nacional (Informe). Servicio de Investigación del Congreso . pág. 1. Archivado del original el 14 de junio de 2022. Recuperado el 19 de julio de 2021 .
↑ Limberg, Peter (24 de mayo de 2020). "Explosión por chantaje" . CultState . Archivado del original el 24 de enero de 2021. Recuperado el 18 de enero de 2021 .
↑ "Para Kappy" . Telegraph . 24 de mayo de 2020. Archivado del original el 24 de enero de 2021. Consultado el 18 de enero de 2021 .
↑ Harwell, Drew (8 de febrero de 2023). "Cómo se utilizan los vídeos deepfake para difundir desinformación y acosar a la gente" . The Washington Post . Consultado el 13 de agosto de 2025 .
↑ "Los jueces de AGT tuvieron reacciones impagables a la audición de canto de Simon Cowell" . Sitio oficial de NBC Insider . 8 de junio de 2022. Archivado del original el 29 de agosto de 2022. Consultado el 29 de agosto de 2022 .
↑ Marr, Bernard. "¿Puede una IA del metaverso ganar America's Got Talent? (Y qué significa eso para la industria)" . Forbes . Archivado del original el 30 de agosto de 2022. Recuperado el 30 de agosto de 2022 .
↑ Morales, Jowi (10 de junio de 2022). "Los deepfakes se popularizan: cómo la participación de Metaphysic en AGT impactará el entretenimiento" . MUO . Archivado del original el 10 de junio de 2024. Recuperado el 29 de agosto de 2022 .
↑ Carter, Rebecca (1 de junio de 2019). "Los espectadores de BGT critican duramente a Simon Cowell por un comentario 'grosero' y 'desagradable' a una concursante" . Entertainment Daily . Archivado del original el 31 de agosto de 2022. Consultado el 31 de agosto de 2022 .
↑ ¿ Simon Cowell canta en el escenario? ¡Metaphysic te dejará sin palabras! | AGT 2022 , archivado del original el 29 de agosto de 2022 , consultado el 29 de agosto de 2022
↑ Segarra, Edward. "Los jueces de 'AGT', Simon Cowell y Howie Mandel, son sometidos a un tratamiento de 'deepfake' por parte del grupo de IA Metaphysic: Míralo aquí" . USA TODAY . Archivado del original el 31 de agosto de 2022. Consultado el 31 de agosto de 2022 .
↑ Bowenbank, Starr (14 de septiembre de 2022). "Simon Cowell canta a dúo con Elvis en la última actuación deepfake de Metaphysic en 'AGT': Míralo" . Billboard . Archivado del original el 10 de junio de 2024. Recuperado el 15 de septiembre de 2022 .
↑ Zwiezen, Zack (18 de enero de 2021). "Un sitio web te permite hacer que GLaDOS diga lo que quieras" . Kotaku . Archivado del original el 17 de enero de 2021. Consultado el 18 de enero de 2021 .
↑ Ruppert, Liana (18 de enero de 2021). "Haz que GLaDOS de Portal y otros personajes queridos digan las cosas más raras con esta aplicación" . Game Informer . Archivado del original el 18 de enero de 2021. Recuperado el 18 de enero de 2021 .
↑ Clayton, Natalie (19 de enero de 2021). "Haz que el elenco de TF2 recite memes antiguos con esta herramienta de conversión de texto a voz con IA" . PC Gamer . Archivado del original el 19 de enero de 2021. Recuperado el 19 de enero de 2021 .
↑ Sherman, Maria (3 de diciembre de 2023). «Kiss se despide de las giras en vivo, se convierte en la primera banda estadounidense en pasarse al formato virtual y se transforma en avatares digitales» . AP News . Associated Press. Archivado del original el 1 de enero de 2024. Consultado el 4 de enero de 2024 .
1 2 Cerullo, Megan (9 de enero de 2024). "Anuncios generados por IA que utilizan la imagen de Taylor Swift engañan a los fans con un falso sorteo de Le Creuset" . CBS News . Archivado del original el 10 de enero de 2024. Recuperado el 10 de enero de 2024 .
1 2 Westfall, Chris. "Aumento de los deepfakes con IA que causan pérdidas multimillonarias por fraude" . Forbes . Consultado el 1 de diciembre de 2024 .
1 2 3 4 Hsu, Tiffany; Lu, Yiwen (9 de enero de 2024). "No, no es Taylor Swift vendiendo utensilios de cocina Le Creuset" . The New York Times . pág. B1 . Consultado el 10 de enero de 2024 .
1 2 Taylor, Derrick Bryson (2 de octubre de 2023). "Tom Hanks advierte sobre un anuncio dental que utiliza una versión de él creada con IA" . The New York Times . ISSN 0362-4331 . Archivado del original el 10 de junio de 2024. Recuperado el 12 de octubre de 2023 .
1 2 Johnson, Kirsten (11 de diciembre de 2023). "Una mujer de Arizona cae víctima de una estafa de deepfake que utiliza a celebridades en las redes sociales" . ABC 15 Arizona . Archivado del original el 10 de enero de 2024. Recuperado el 10 de enero de 2024 .
1 2 Kulundu, Mary (4 de enero de 2024). "Vídeos deepfake de Elon Musk utilizados en una estafa para hacerse rico rápidamente" . Agence France-Presse . Archivado del original el 10 de junio de 2024. Recuperado el 10 de enero de 2024 .
↑ Esmael, Lisbet (3 de enero de 2024). "Filipinas necesita un enfoque multifacético contra los videos 'deepfake' utilizados para estafar a los filipinos" . CNN Filipinas . Archivado del original el 10 de enero de 2024. Recuperado el 10 de enero de 2024 .
↑ Gerken, Tom (4 de octubre de 2023). "MrBeast y estrellas de la BBC utilizadas en vídeos de estafa deepfake" . BBC News . Archivado del original el 10 de junio de 2024. Recuperado el 10 de enero de 2024 .
1 2 Lim, Kimberly (29 de diciembre de 2023). "El primer ministro de Singapur, Lee, advierte sobre deepfakes 'muy convincentes' que 'difunden desinformación' tras la aparición de un vídeo falso suyo" . South China Morning Post . Archivado del original el 9 de enero de 2024. Recuperado el 10 de enero de 2024 .
↑ Taylor, Josh (30 de noviembre de 2023). "Un estafador pagó a Facebook 7 centavos por visualización para difundir un video de deepfake de Jim Chalmers y Gina Rinehart" . The Guardian . Archivado del original el 10 de junio de 2024. Recuperado el 10 de enero de 2024 .
↑ Palmer, Joseph Olbrycht (14 de diciembre de 2023). «Se utilizó un deepfake de funcionarios del Tesoro y del Banco Central australianos para promover una estafa de inversión» . Agence France-Presse . Archivado del original el 10 de enero de 2024. Consultado el 10 de enero de 2024 .
1 2 Koebler, Jason (9 de enero de 2024). "Anuncios de celebridades con deepfake que promueven estafas de Medicare proliferan en YouTube" . 404 Media . Archivado del original el 10 de enero de 2024. Recuperado el 10 de enero de 2024 .
1 2 Rosenblatt, Kalhan (3 de octubre de 2023). "MrBeast llama 'estafa' al anuncio de TikTok que muestra una versión de IA de él"" . NBC News . Archivado del original el 10 de enero de 2024 . Consultado el 10 de enero de 2024 .
↑ Koebler, Jason (25 de enero de 2024). "YouTube elimina 1000 vídeos de anuncios fraudulentos de IA de famosos" . 404 Media . Archivado del original el 10 de junio de 2024. Consultado el 2 de febrero de 2024 .
↑ Bucci, Nino (27 de noviembre de 2023). «Dick Smith critica a Facebook después de que estafadores difundieran un anuncio de vídeo deepfake» . The Guardian . Archivado del original el 10 de junio de 2024. Consultado el 10 de enero de 2024 .
↑ Lomas, Natasha (7 de julio de 2023). "Martin Lewis advierte sobre el 'primer' anuncio fraudulento de video deepfake que circula en Facebook" . TechCrunch . Archivado del original el 10 de enero de 2024. Recuperado el 10 de enero de 2024 .
↑ Lopatto, Elizabeth (3 de enero de 2024). "Una nueva y divertida consecuencia de los deepfakes: estafas con criptomonedas más convincentes" . The Verge . Archivado del original el 10 de enero de 2024. Recuperado el 10 de enero de 2024 .
↑ Statt, Nick (5 de septiembre de 2019). "Los ladrones ahora utilizan deepfakes de IA para engañar a las empresas y conseguir que les envíen dinero" . Archivado del original el 15 de septiembre de 2019. Recuperado el 13 de septiembre de 2019 .
↑ Damiani, Jesse. "Se utilizó un deepfake de voz para estafar a un director ejecutivo por 243 000 dólares" . Forbes . Archivado del original el 14 de septiembre de 2019. Consultado el 9 de noviembre de 2019 .
↑ "Deepfakes, explicados" . MIT Sloan . 5 de marzo de 2024. Archivado del original el 5 de marzo de 2024. Consultado el 6 de marzo de 2024 .
↑ Schwartz, Christopher; Wright, Matthew (17 de marzo de 2023). "Los deepfakes de voz están llamando: esto es lo que son y cómo evitar ser estafado" . The Conversation . Archivado del original el 4 de enero de 2024. Recuperado el 4 de enero de 2024 .
^ "Wenn Merkel plötzlich Trumps Gesicht trägt: die gefährliche Manipulation von Bildern und Videos " . Aargauer Zeitung . az Aargauer Zeitung. 3 de febrero de 2018. Archivado desde el original el 13 de abril de 2019 . Consultado el 9 de abril de 2018 .
^ Gensing, Patrick. "Deepfakes: ¿Auf dem Weg in eine alternativa Realität?" . Archivado desde el original el 11 de octubre de 2018 . Consultado el 9 de abril de 2018 .
↑ Romano, Aja (18 de abril de 2018). "El simulacro de anuncio de servicio público de Obama realizado por Jordan Peele es una advertencia de doble filo contra las noticias falsas" . Vox . Archivado del original el 11 de junio de 2019. Recuperado el 10 de septiembre de 2018 .
↑ Swenson, Kyle (11 de enero de 2019). "Una estación de televisión de Seattle emitió imágenes manipuladas del discurso de Trump en el Despacho Oval. El empleado ha sido despedido" . The Washington Post . Archivado del original el 15 de abril de 2019. Recuperado el 11 de enero de 2019 .
↑ O'Sullivan, Donie (4 de junio de 2019). "El Congreso investigará los deepfakes tras la controversia generada por un vídeo manipulado de Pelosi" . CNN . Archivado del original el 29 de junio de 2019. Consultado el 9 de noviembre de 2019 .
↑ "#DiganLaVerdadBélgica" . Extinction Rebellion Bélgica . Archivado del original el 25 de abril de 2020. Consultado el 21 de abril de 2020 .
↑ Holubowicz, Gerald (15 de abril de 2020). "Extinction Rebellion se empeña en crear deepfakes" . Journalism.design (en francés). Archivado del original el 29 de julio de 2020. Recuperado el 21 de abril de 2020 .
↑ Carnahan, Dustin (16 de septiembre de 2020). "Vídeos falsificados refuerzan creencias falsas sobre la salud mental de Biden" . The Conversation . Archivado del original el 9 de abril de 2022. Consultado el 9 de abril de 2022 .
↑ Parker, Ashley (7 de septiembre de 2020). "Trump y sus aliados intensifican sus esfuerzos para difundir desinformación y noticias falsas" . The Independent . Consultado el 9 de abril de 2022 .
↑ Christopher, Nilesh (18 de febrero de 2020). "Acabamos de presenciar el primer uso de deepfakes en una campaña electoral india" . Vice . Archivado del original el 19 de febrero de 2020. Recuperado el 19 de febrero de 2020 .
↑ «Amabie: la criatura mítica que regresa tras el coronavirus» . The Economist . 28 de abril de 2020. ISSN 0013-0613 . Archivado del original el 20 de mayo de 2021. Consultado el 3 de junio de 2021 .
↑ Roth, Andrew (22 de abril de 2021). «Diputados europeos, blanco de videollamadas manipuladas con deepfake que imitan a la oposición rusa» . The Guardian . Archivado del original el 29 de marzo de 2022. Recuperado el 29 de marzo de 2022 .
↑ Ivanov, Maxim; Rothrock, Kevin (22 de abril de 2021). "Hola, soy Leonid Volkov*. Usando un video deepfake y haciéndose pasar por la mano derecha de Navalny, bromistas rusos engañan a políticos y periodistas letones para que los inviten a una entrevista televisiva" . Meduza . Archivado del original el 29 de marzo de 2022. Recuperado el 29 de marzo de 2022 .
↑ "Diputados holandeses en videoconferencia con imitación digital del jefe de gabinete de Navalny" . nltimes.nl . 24 de abril de 2021. Archivado del original el 10 de junio de 2024. Consultado el 29 de marzo de 2022 .
↑ "«Asistente de Navalny, manipulado mediante deepfake, ataca a legisladores europeos» . The Moscow Times . 23 de abril de 2021. Archivado del original el 29 de marzo de 2022. Consultado el 29 de marzo de 2022 .
↑ Vincent, James (30 de abril de 2021) .El "deepfake" que supuestamente engañó a los políticos europeos era solo un doble, dicen los bromistas . The Verge . Archivado del original el 29 de marzo de 2022. Consultado el 29 de marzo de 2022 .
↑ Novak, Matt (8 de mayo de 2023). "El video viral de Kamala Harris hablando sin sentido es en realidad un deepfake" . Forbes . Archivado del original el 18 de julio de 2023. Recuperado el 18 de julio de 2023 .
↑ "PolitiFact - Kamala Harris no estaba balbuceando sobre hoy, ayer o mañana. Este video está alterado" . Politifact . Archivado del original el 10 de junio de 2024. Recuperado el 18 de julio de 2023 .
↑ Shuham, Matt (8 de junio de 2023). "Anuncio de campaña de DeSantis muestra imágenes falsas de IA de Trump abrazando a Fauci" . HuffPost . Archivado del original el 10 de junio de 2024. Recuperado el 8 de junio de 2023 .
↑ GÖRGEN, Ahmet; SAYGINER, Can (1 de agosto de 2025). "Tecnología deepfake, medios de comunicación y seguridad nacional: el caso del vídeo deepfake de la canciller alemana" . Security Strategies Journal / Güvenlik Stratejileri Dergisi . 21 (51): 279– 297. doi : 10.17752/guvenlikstrtj.1706990 . ISSN 1305-4740 . Consultado el 3 de diciembre de 2025 .
↑ «Los deepfakes con IA representan una grave amenaza para las elecciones en EE. UU. e India» . The Washington Post . ISSN 0190-8286 . Archivado del original el 20 de mayo de 2024. Consultado el 22 de octubre de 2024 .
↑ Christopher, Nilesh (marzo de 2024). "Los votantes indios están siendo bombardeados con millones de deepfakes. Los candidatos políticos lo aprueban" . Wired . Archivado del original el 12 de marzo de 2024. Recuperado el 20 de octubre de 2024 .
↑ "Lo que un creador de deepfakes indio nos revela sobre la seguridad electoral global" . Bloomberg . Archivado del original el 1 de abril de 2024. Consultado el 20 de octubre de 2024 .
↑ Politi, Daniel; Alcoba, Natalie (2 de julio de 2025). "El presidente de Argentina se une a la campaña de desprestigio impulsada por IA contra un periodista" . New York Times . Consultado el 3 de julio de 2025 .
↑ «Julia Mengolini se quebró por una violenta campaña de libertarios a la que se sumó Milei» . La Nación (en español) . Consultado el 28 de junio de 2025 .
↑ Smith, Colby (21 de julio de 2025). "Actualizaciones en vivo de Trump: Las repercusiones del caso Epstein continúan mientras el presidente insta a sus seguidores a pasar página" . The New York Times . ISSN 0362-4331 . Consultado el 21 de julio de 2025 .
↑ Margolis, Andrea (20 de julio de 2025). "Trump publica un video generado por IA que muestra a Obama siendo arrestado al ritmo de 'YMCA'"" . Fox News . Consultado el 21 de julio de 2025 .
1 2 Roettgers, Janko (21 de febrero de 2018). "Productores de pornografía se ofrecen a ayudar a Hollywood a eliminar videos deepfake" . Variety . Archivado del original el 10 de junio de 2019. Recuperado el 28 de febrero de 2018 .
1 2 3 Dickson, EJ (7 de octubre de 2019). "El porno deepfake sigue siendo una amenaza, especialmente para las estrellas del K-Pop" . Rolling Stone . Archivado del original el 30 de octubre de 2019. Recuperado el 9 de noviembre de 2019 .
↑ "El estado de los deepfakes: panorama, amenazas e impacto" (PDF) . Deeptrace . 1 de octubre de 2019. Archivado (PDF) del original el 9 de agosto de 2020. Consultado el 7 de julio de 2020 .
↑ Goggin, Benjamin (7 de junio de 2019). "Del porno a 'Juego de Tronos': cómo los deepfakes y los vídeos falsos de aspecto realista se hicieron tan populares" . Business Insider . Archivado del original el 8 de noviembre de 2019. Consultado el 9 de noviembre de 2019 .
↑ Lee, Dave (3 de febrero de 2018) .La pornografía falsa tiene graves consecuencias . Archivado del original el 1 de diciembre de 2019. Consultado el 9 de noviembre de 2019 .
↑ Cole, Samantha (19 de junio de 2018). "La solución de IA de Gfycat para combatir los deepfakes no funciona" . Vice . Archivado del original el 8 de noviembre de 2019. Recuperado el 9 de noviembre de 2019 .
↑ Zoe, Freni (24 de noviembre de 2019). "El porno deepfake llegó para quedarse" . Medium . Archivado del original el 10 de diciembre de 2019. Recuperado el 10 de diciembre de 2019 .
↑ Cole, Samantha; Maiberg, Emanuel; Koebler, Jason (26 de junio de 2019). "Esta horrible aplicación desnuda la foto de cualquier mujer con un solo clic" . Vice . Archivado del original el 2 de julio de 2019. Recuperado el 2 de julio de 2019 .
↑ Cox, Joseph (9 de julio de 2019). "GitHub eliminó las versiones de código abierto de DeepNude" . Vice Media . Archivado del original el 24 de septiembre de 2020. Recuperado el 14 de julio de 2019 .
↑ "pic.twitter.com/8uJKBQTZ0o" . 27 de junio de 2019. Archivado del original el 6 de abril de 2021. Consultado el 3 de agosto de 2019 .
↑ "Cientos de anuncios deepfake de contenido sexual que utilizaban el rostro de Emma Watson se publicaron en Facebook e Instagram en los últimos dos días" . NBC News . 7 de marzo de 2023. Archivado del original el 29 de febrero de 2024. Consultado el 8 de marzo de 2024 .
↑ Filipovic, Jill (31 de enero de 2024). «Cualquiera podría ser víctima de los "deepfakes". Pero hay una razón por la que Taylor Swift es un objetivo» . The Guardian . ISSN 0261-3077 . Archivado del original el 10 de junio de 2024. Consultado el 8 de marzo de 2024 .
↑ Paris, Britt (octubre de 2021). "Configurando falsificaciones: cuerpos digitalizados, la política de la evidencia y la agencia" . Social Media + Society . 7 (4) 20563051211062919. doi : 10.1177/20563051211062919 . ISSN 2056-3051 .
↑ Lazard, Lisa; Capdevila, Rose; Turley, Emma L; Gilfoyle, Kathryn; Stavropoulou, Nelli (21 de noviembre de 2025). "Tecnología deepfake y violencia de género: una revisión exploratoria" . Trauma, Violence, & Abuse 15248380251384271. doi : 10.1177/15248380251384271 . ISSN 1524-8380 . PMID 41273018 .
↑ Damiani, Jesse. «La aplicación china de deepfake Zao se vuelve viral y enfrenta críticas inmediatas por sus políticas de seguridad y protección de datos de usuario» . Forbes . Archivado del original el 14 de septiembre de 2019. Consultado el 18 de noviembre de 2019 .
↑ "Antes de las elecciones irlandesas y estadounidenses, Facebook anuncia nuevas medidas contra los vídeos 'deepfake'" . Independent.ie . 7 de enero de 2020. Archivado del original el 8 de enero de 2020. Consultado el 7 de enero de 2020 .
↑ "Cómo el experto visual belga Chris Ume ideó los deepfakes de Tom Cruise" . The Statesman . 6 de marzo de 2021. Archivado del original el 24 de agosto de 2022. Consultado el 24 de agosto de 2022 .
↑ Metz, Rachel. "Cómo un deepfake de Tom Cruise en TikTok se convirtió en una empresa de IA muy real" . CNN . Archivado del original el 10 de junio de 2024. Recuperado el 17 de marzo de 2022 .
↑ Corcoran, Mark; Henry, Matt (23 de junio de 2021). "Este no es Tom Cruise. Eso es lo que tiene tan preocupados a los expertos en seguridad" . ABC News . Archivado del original el 28 de marzo de 2022. Recuperado el 28 de marzo de 2022 .
↑ Reuters, 15 de julio de 2020, El uso de deepfake para atacar a una pareja de activistas muestra una nueva frontera de la desinformación. Archivado el 26 de septiembre de 2020 en Wayback Machine.
1 2 "La tecnología deepfake perfecta podría llegar antes de lo esperado" . www.wbur.org . 2 de octubre de 2019. Archivado del original el 30 de octubre de 2019. Consultado el 9 de noviembre de 2019 .
↑ Vincent, James. "Los deepfakes se están volviendo más realistas y más difíciles de detectar" . The Verge . Consultado el 13 de agosto de 2025 .{{cite web}}: CS1 mantenimiento: estado de la URL ( enlace )
↑ Sonnemaker, Tyler. «Mientras las plataformas de redes sociales se preparan para la inminente ola de deepfakes, el ex 'zar del fraude' de Google predice que el mayor peligro es que los deepfakes terminen por volverse aburridos» . Business Insider . Archivado del original el 14 de abril de 2021. Consultado el 14 de abril de 2021 .
1 2 3 4 5 Vaccari, Cristian; Chadwick, Andrew (enero de 2020). "Deepfakes y desinformación: explorando el impacto del video político sintético en el engaño, la incertidumbre y la confianza en las noticias" . Social Media + Society . 6 (1): 205630512090340. doi : 10.1177/2056305120903408 . ISSN 2056-3051 . S2CID 214265502 .
1 2 Pawelec, M (2022). "Deepfakes y democracia (teoría): cómo los medios audiovisuales sintéticos para la desinformación y el discurso de odio amenazan las funciones democráticas básicas" . Sociedad digital: ética, sociolegal y gobernanza de la tecnología digital . 1 (2) 19. doi : 10.1007/s44206-022-00010-6 . PMC 9453721. PMID 36097613 .
1 2 3 Somers, Meredith (21 de julio de 2020). "Deepfakes, explicados" . MIT Sloan . Archivado del original el 5 de marzo de 2024. Recuperado el 6 de marzo de 2024 .
1 2 3 Bateman, Jon (2020). "Resumen" . Deepfakes y medios sintéticos en el sistema financiero : 1–2 . Archivado del original el 20 de abril de 2021. Recuperado el 28 de octubre de 2020 .
↑ Kelion, Leo (septiembre de 2020). "Microsoft presenta una herramienta de detección de deepfakes" . BBC News . Archivado del original el 14 de abril de 2021. Consultado el 15 de abril de 2021 .
↑ Cohen, Ariel; Rimon, Inbal; Aflalo, Eran; Permuter, Haim H. (junio de 2022). "Un estudio sobre el aumento de datos en la lucha contra la suplantación de voz". Speech Communication . 141 : 56–67 . arXiv : 2110.10491 . doi : 10.1016/j.specom.2022.04.005 . S2CID 239050551 .
↑ Rimon, Inbal; Gal, Oren; Permuter, Haim (2025). "Desenmascarando deepfakes: aprovechando aumentos y variabilidad de características para la detección de voz deepfake" . Preimpresión de arXiv . arXiv : 2501.05545 .
↑ Rimon, Inbal; Gal, Oren; Permuter, Haim (2026). "Split and Conquer Partial Deepfake Speech" . Preimpresión de arXiv . arXiv : 2604.02913 .
1 2 3 Manke, Kara (18 de junio de 2019). "Investigadores utilizan peculiaridades faciales para desenmascarar 'deepfakes'"" . Berkeley News . Archivado del original el 9 de noviembre de 2019 . Consultado el 9 de noviembre de 2019 .
↑ Farid, Hany (1 de diciembre de 2006). "Doctorado digital: cómo distinguir lo real de lo falso" . Significance . 3 (4): 162– 166. doi : 10.1111/j.1740-9713.2006.00197.x . S2CID 13861938 .
↑ "Únete al Desafío de Detección de Deepfakes (DFDC)" . deepfakedetectionchallenge.ai. Archivado del original el 12 de enero de 2020. Consultado el 8 de noviembre de 2019 .
↑ "Resultados del desafío de detección de deepfakes: una iniciativa abierta para impulsar la IA" . ai.facebook.com . Archivado del original el 29 de octubre de 2020. Consultado el 30 de septiembre de 2022 .
↑ Groh, Matthew; Epstein, Ziv; Firestone, Chaz; Picard, Rosalind (2022). "Detección de deepfakes por multitudes humanas, máquinas y multitudes informadas por máquinas" . Actas de la Academia Nacional de Ciencias . 119 (1) e2110013119. arXiv : 2105.06496 . Bibcode : 2022PNAS..11910013G . doi : 10.1073/pnas.2110013119 . PMC 8740705. PMID 34969837 .
↑ Lewis, Andrew; Vu, Patrick; Duch, Raymond M.; Chowdhury, Areeq (noviembre de 2023). "Detección de deepfakes con y sin advertencias de contenido" . Royal Society Open Science . 10 (11) 231214. Bibcode : 2023RSOS...1031214L . doi : 10.1098/rsos.231214 . ISSN 2054-5703 . PMC 10679876. PMID 38026025 .
1 2 "Google Académico" . scholar.google.com . Consultado el 30 de abril de 2022 .
1 2 Masi, Iacopo; Killekar, Aditya; Mascarenhas, Royston Marian; Gurudatt, Shenoy Pratik; Abdalmageed, Wael (2020). Red recurrente de dos ramas para aislar deepfakes en vídeos . Lecture Notes in Computer Science. Vol. 12352. pp. 667–684 . arXiv : 2008.03412 . doi : 10.1007/978-3-030-58571-6_39 . ISBN 978-3-030-58570-9Archivado del original el 10 de junio de 2024. Consultado el 30 de abril de 2022 .
1 2 3 "La solución blockchain a nuestros problemas de deepfake" . Wired . ISSN 1059-1028 . Archivado del original el 7 de noviembre de 2019. Recuperado el 9 de noviembre de 2019 .
1 2 Leetaru, Kalev. "Por qué las firmas digitales no evitarán las falsificaciones profundas, pero ayudarán a los gobiernos represivos" . Forbes . Archivado del original el 14 de abril de 2021. Recuperado el 17 de febrero de 2021 .
↑ "Para descubrir una videollamada deepfake, pídale a la persona que llama que se ponga de lado" . Metaphysic . 8 de agosto de 2022. Archivado del original el 26 de agosto de 2022. Consultado el 24 de agosto de 2022 .
↑ Helmus, Todd (2022). "Una introducción". Inteligencia artificial, deepfakes y desinformación: una introducción . RAND Corporation . Recuperado el 13 de agosto de 2025 .
↑ Romero-Moreno, Felipe (23 de junio de 2025). "Detección de deepfakes en IA generativa: una propuesta de marco legal para proteger los derechos humanos" . Computer Law & Security Review . 58 106162. doi : 10.1016/j.clsr.2025.106162 .
1 2 3 4 Karnouskos, Stamatis (septiembre de 2020). "Inteligencia artificial en los medios digitales: la era de los deepfakes". IEEE Transactions on Technology and Society . 1 (3): 138– 147. Bibcode : 2020ITTS....1..138K . doi : 10.1109/TTS.2020.3001312 . ISSN 2637-6415 .
1 2 3 Turós, Mátyás; Kenyeres, Atila Zoltán; Szűts, Zoltán (septiembre de 2024). "Detección de vídeos falsos entre estudiantes de secundaria: el impacto de los factores socioculturales, de alfabetización mediática y de uso de los medios" . Informes Telemática e Informática . 15 100160. doi : 10.1016/j.teler.2024.100160 .
↑ Ahmed, Saifuddin (mayo de 2023). "Navegando por el laberinto: Deepfakes, capacidad cognitiva y escepticismo ante las noticias en las redes sociales" . New Media & Society . 25 (5): 1108–1129 . doi : 10.1177/14614448211019198 . ISSN 1461-4448 .
↑ Hwang, Yoori; Ryu, Ji Youn; Jeong, Se-Hoon (1 de marzo de 2021). "Efectos de la desinformación mediante deepfake: el efecto protector de la educación en alfabetización mediática" . Cyberpsychology, Behavior, and Social Networking . 24 (3): 188– 193. doi : 10.1089/cyber.2020.0174 . ISSN 2152-2715 . PMID 33646021 .
↑ "El anillo de Kate Middleton desaparece misteriosamente y genera más preocupación sobre la IA" . MSN. 25 de marzo de 2024. Archivado del original el 10 de junio de 2024. Consultado el 19 de mayo de 2024 .
↑ Hindustan Times (5 de abril de 2024) .«La confesión de Kate sobre su cáncer es falsa», afirma Johnathan Perkins, director de la UCLA y seguidor de Meghan Markle, en una teoría conspirativa . The Hindustan Times. Archivado del original el 10 de junio de 2024. Consultado el 19 de mayo de 2024 .
1 2 3 4 Hameleers, Michael; van der Meer, Toni GLA; Dobber, Tom (febrero de 2024). "¡Nunca dirían algo así! Razones para dudar de los deepfakes políticos" . European Journal of Communication . 39 (1): 56–70 . doi : 10.1177/02673231231184703 . ISSN 0267-3231 .
↑ Salubi, Oghenere (16 de octubre de 2025). «Inteligencia artificial, desinformación y bibliotecas: una nueva frontera para los profesionales de la información» . Actas de la Asociación para la Ciencia y la Tecnología de la Información . 62 : 572–581 . doi : 10.1002/pra2.1279 . Consultado el 4 de noviembre de 2025 .
1 2 3 4 Dobber, Tom; Metoui, Nadia; Trilling, Damian; Helberger, Natali; de Vreese, Claes (enero de 2021). "¿Tienen los deepfakes (microdirigidos) efectos reales en las actitudes políticas?" . The International Journal of Press/Politics . 26 (1): 69– 91. doi : 10.1177/1940161220944364 . ISSN 1940-1612 .
↑ Salvi, Alessandro; Filipova, Raina; Hogeveen, Bryan; Karásková, Ivana; Pawlak, Patryk; Salvi, Andrea (2024). EL ATAQUE DE LOS CLONES: Deepfakes y el panorama cambiante de la desinformación . Instituto de Estudios de Seguridad de la Unión Europea (EUISS). pp. 32–40 . Recuperado el 13 de agosto de 2025 .
↑ "Deepfakes, elecciones y la reducción del dividendo del mentiroso | Brennan Center for Justice" . www.brennancenter.org . 8 de febrero de 2024. Consultado el 10 de diciembre de 2025 .
1 2 "Imágenes generadas por IA del arresto de Trump circulan en redes sociales" . AP News. 21 de marzo de 2023. Archivado del original el 10 de junio de 2024. Consultado el 10 de octubre de 2023 .
↑ Fagan, Kaylee. "Un video viral que parecía mostrar a Obama llamando a Trump 'idiota' revela una nueva tendencia inquietante llamada 'deepfakes'"." . Business Insider . Archivado del original el 22 de septiembre de 2020 . Consultado el 3 de noviembre de 2020 .
1 2 "El auge del deepfake y la amenaza a la democracia" . The Guardian . Archivado del original el 1 de noviembre de 2020. Consultado el 3 de noviembre de 2020 .
↑ "Trump comparte una foto deepfake de sí mismo rezando mientras se difunden en línea imágenes de su arresto generadas por IA" . The Independent . 24 de marzo de 2023. Archivado del original el 28 de mayo de 2023. Consultado el 16 de junio de 2023 .
↑ Towers-Clark, Charles. "Mona Lisa y Nancy Pelosi: las implicaciones de los deepfakes" . Forbes . Archivado del original el 23 de noviembre de 2020. Consultado el 7 de octubre de 2020 .
↑ "¿Cuál es la diferencia entre un deepfake y un shallowfake?" . 21 de abril de 2020. Archivado del original el 26 de junio de 2022. Consultado el 5 de diciembre de 2021 .
↑ "Galería: 'Spectre' se estrena (Comunicado de prensa)" . Bill Posters . 29 de mayo de 2019. Archivado del original el 10 de junio de 2024. Consultado el 15 de mayo de 2024 .
↑ Cole, Samantha (11 de junio de 2019). "Este deepfake de Mark Zuckerberg pone a prueba las políticas de Facebook sobre videos falsos" . Vice . Archivado del original el 10 de junio de 2024. Recuperado el 15 de mayo de 2024 .
1 2 3 "Deepfake Putin está aquí para advertir a los estadounidenses sobre su propia perdición" . MIT Technology Review . Archivado del original el 30 de octubre de 2020. Recuperado el 7 de octubre de 2020 .
↑ Sonne, Paul (5 de junio de 2023). "Discurso falso de Putin pidiendo ley marcial transmitido en Rusia" . The New York Times . Archivado del original el 10 de junio de 2024. Recuperado el 6 de junio de 2023 .
↑ Allyn, Bobby (16 de marzo de 2022). "Un vídeo deepfake de Zelenskyy podría ser la 'punta del iceberg' en la guerra de la información, advierten los expertos" . NPR . Archivado del original el 29 de marzo de 2022. Recuperado el 17 de marzo de 2022 .
↑ Satariano, Adam; Mozur, Paul (7 de febrero de 2023). "Las personas en pantalla son falsas. La desinformación es real" . The New York Times . Archivado del original el 10 de junio de 2024. Recuperado el 10 de febrero de 2023 .
↑ "El papa Francisco con un deepfake de Balenciaga engaña a millones: 'Definitivamente da miedo'"" . New York Post . 28 de marzo de 2023. Archivado del original el 10 de junio de 2024 . Consultado el 16 de junio de 2023 .
↑ Lu, Donna (31 de marzo de 2023). «Desinformación, errores y el Papa en un saco de dormir: lo que la IA en rápida evolución puede y no puede hacer» . The Guardian . Archivado del original el 10 de junio de 2024. Recuperado el 16 de junio de 2023 .
↑ Murphy, Heather Tal (29 de marzo de 2023). "El Papa con abrigo no es de un lugar sagrado" . Slate . Archivado del original el 10 de junio de 2024. Recuperado el 16 de junio de 2023 .
↑ "Audio deepfake de Sir Keir Starmer publicado el primer día de la conferencia laborista" . Sky News . Consultado el 29 de mayo de 2024 .
↑ «Mujer en video deepfake con el rostro de Rashmika Mandanna rompe el silencio: Estoy profundamente perturbada y molesta por lo que está sucediendo» . The Times of India . 9 de noviembre de 2023. ISSN 0971-8257 . Archivado del original el 23 de noviembre de 2023. Consultado el 23 de noviembre de 2023 .
↑ Cupin, Bea (24 de abril de 2024). "Malacañang denuncia audio deepfake de Marcos ordenando un ataque militar" . Rappler . Archivado del original el 10 de junio de 2024. Recuperado el 14 de mayo de 2024 .
↑ Flores, Helen (27 de abril de 2024) .Se ve a un "actor extranjero" detrás del deepfake de audio del presidente Marcos . The Philippines Star . Archivado del original el 10 de junio de 2024. Consultado el 14 de mayo de 2024 .
↑ Argosino, Faith (14 de mayo de 2024). "Se presentan cargos contra páginas de redes sociales por contenido difamatorio y deepfake de Marcos" . Philippine Daily Inquirer . Archivado del original el 10 de junio de 2024. Recuperado el 14 de mayo de 2024 .
↑ "¿Intercambio de caras? Un detector de deepfakes marca como 'sospechoso' el supuesto vídeo de Marcos."Rappler . 23 de julio de 2024. Consultado el 25 de julio de 2024 .
↑ "Los hallazgos de la NBI y la PNP demuestran que el video del 'polvorón' es falso" . The Philippine Star . 24 de julio de 2024. Consultado el 25 de julio de 2024 .
↑ Shepardson, David (23 de mayo de 2024). "Consultor político estadounidense acusado por llamadas automáticas a favor de Biden generadas por IA" . Reuters .
↑ "Consultor político estadounidense acusado por llamadas automáticas de Biden generadas por IA" . AP News . 23 de mayo de 2024. Archivado del original el 10 de junio de 2024. Consultado el 8 de junio de 2024 .
↑ Magramo, Kathleen (17 de mayo de 2024). "El gigante británico de la ingeniería Arup, víctima de una estafa de deepfake por valor de 25 millones de dólares" . CNN . Consultado el 18 de mayo de 2025 .
↑ Dela Cruz, Ailla (16 de junio de 2025). "Verificación de hechos: el video de estudiantes que se oponen al juicio político de Sara Duterte es generado por IA" . Rappler . Recuperado el 17 de junio de 2025 .
↑ Cabato, Luisa (16 de junio de 2025). "Dela Rosa ridiculizada por video de IA sobre el juicio político a Sara Duterte" . Philippine Daily Inquirer . Consultado el 17 de junio de 2025 .
↑ Magsambol, Bonz (16 de junio de 2025). "Sara Duterte: No hay nada de malo en compartir un video de IA que se opone a mi juicio político" . Rappler . Recuperado el 17 de junio de 2025 .
↑ Liggett, Jake (22 de octubre de 2025) .Un candidato presidencial condena un vídeo manipulado con IA de gran tamaño, calificado de "vergonzoso" . BBC News NI . Consultado el 18 de enero de 2026 .
↑ Haeck, Pieter (22 de octubre de 2025). "Vídeo deepfake de un candidato presidencial irlandés sacude su campaña" . Politico Europe . Consultado el 18 de enero de 2026 .
↑ Price, Rob (27 de enero de 2018). "Discord acaba de cerrar un grupo de chat dedicado a compartir vídeos pornográficos editados con IA para incluir a famosos" . Business Insider Australia . Archivado del original el 15 de diciembre de 2019. Consultado el 28 de noviembre de 2019 .
1 2 Ghoshal, Abhimanyu (7 de febrero de 2018). "Twitter, Pornhub y otras plataformas prohíben la pornografía de celebridades generada por IA" . The Next Web . Archivado del original el 20 de diciembre de 2019. Recuperado el 9 de noviembre de 2019 .
↑ "Twitter prohíbe la pornografía generada por IA mediante 'deepfake'" . Engadget . 20 de julio de 2019. Archivado del original el 15 de diciembre de 2019. Consultado el 28 de noviembre de 2019 .
↑ Cole, Samantha (31 de enero de 2018). "Creadores de pornografía falsa generada por IA han sido expulsados de su plataforma favorita" . Vice . Archivado del original el 1 de noviembre de 2019. Recuperado el 18 de noviembre de 2019 .
↑ Böhm, Markus (7 de febrero de 2018). ""Deepfakes": Firmen gehen gegen gefälschte Promi-Pornos vor" . Spiegel Online . Archivado desde el original el 23 de septiembre de 2019. Consultado el 9 de noviembre de 2019 .
↑ Robertson, Adi (7 de febrero de 2018). "Reddit prohíbe las comunidades de pornografía con IA 'deepfakes'" . The Verge . Archivado del original el 24 de septiembre de 2019. Recuperado el 9 de noviembre de 2019 .
1 2 Cole, Samantha (6 de febrero de 2018). "Pornhub prohíbe los vídeos pornográficos falsos generados por IA, dice que no son consensuales" . Vice . Archivado del original el 1 de noviembre de 2019. Recuperado el 9 de noviembre de 2019 .
↑ Beres, Damon; Gilmer, Marcus (2 de febrero de 2018). "Una guía sobre los 'deepfakes', la última crisis moral de internet" . Mashable . Archivado del original el 9 de diciembre de 2019. Recuperado el 9 de noviembre de 2019 .
1 2 Harrell, Drew (30 de diciembre de 2018). "Los vídeos pornográficos falsos se están utilizando como arma para acosar y humillar a las mujeres: 'Todo el mundo es un objetivo potencial'"" . The Washington Post . Archivado del original el 2 de enero de 2019 . Consultado el 1 de enero de 2019 .
↑ Anderson, Martin (2022). Google ha prohibido el entrenamiento de deepfakes en Colab. Archivado el 30 de mayo de 2022 en Wayback Machine , Unite.ai, 28 de mayo de 2022.
↑ Maiberg, Emanuel (2022). Se necesitan 2 clics para pasar de 'Deep Tom Cruise' a pornografía deepfake repugnante , VICE, 17 de mayo de 2022
1 2 "Facebook ha prometido dejar publicado un vídeo deepfake de Mark Zuckerberg" . MIT Technology Review . Archivado del original el 16 de octubre de 2019. Consultado el 9 de noviembre de 2019 .
↑ Cole, Samantha (11 de junio de 2019). "Este deepfake de Mark Zuckerberg pone a prueba las políticas de Facebook sobre videos falsos" . Vice . Archivado del original el 12 de octubre de 2019. Recuperado el 9 de noviembre de 2019 .
1 2 "Resultados del desafío de detección de deepfakes: una iniciativa abierta para impulsar la IA" . ai.facebook.com . Archivado del original el 29 de octubre de 2020. Recuperado el 7 de octubre de 2020 .
1 2 Paul, Katie (4 de febrero de 2020). "Twitter etiquetará los deepfakes y otros medios engañosos" . Reuters . Archivado del original el 10 de octubre de 2020. Recuperado el 7 de octubre de 2020 .
↑ Cole, Samantha (6 de febrero de 2018). "Twitter es la última plataforma en prohibir la pornografía generada por IA" . Vice . Archivado del original el 1 de noviembre de 2019. Recuperado el 8 de noviembre de 2019 .
↑ "Ayúdanos a definir nuestro enfoque sobre los medios sintéticos y manipulados" . blog.twitter.com . Archivado del original el 28 de octubre de 2020. Consultado el 7 de octubre de 2020 .
↑ "Twitter elabora una política sobre deepfakes que etiquetaría y advertiría, pero no siempre eliminaría, el contenido manipulado" . TechCrunch . 11 de noviembre de 2019. Archivado del original el 14 de julio de 2021. Consultado el 7 de octubre de 2020 .
↑ Cinco estados de EE. UU. presionan a Musk para que corrija el chatbot de IA por la desinformación electoral. Reuters consultó el 19 de agosto de 2024.
↑ Imágenes nocivas se difunden después de que Elon Musk lanzara una herramienta de IA con pocas medidas de seguridad. The Washington Post, consultado el 19 de agosto de 2024.
↑ Cómo Elon Musk y X se convirtieron en los mayores difusores de desinformación en línea. Rolling Stone, consultado el 19 de agosto de 2024.
↑ Sasse, Ben (21 de diciembre de 2018). "S. 3805–115.º Congreso (2017-2018): Ley de prohibición de deepfakes maliciosos de 2018" . www.congress.gov . Archivado del original el 16 de octubre de 2019. Consultado el 16 de octubre de 2019 .
↑ Clarke, Yvette D. (28 de junio de 2019). "HR3230 - 116.º Congreso (2019-2020): Ley de 2019 para defender a todas y cada una de las personas de las apariencias falsas mediante la rendición de cuentas en casos de explotación" . www.congress.gov . Archivado del original el 17 de diciembre de 2019. Consultado el 16 de octubre de 2019 .
↑ "Tendencias de verificación de identidad digital 2025" . www.zyphe.com . 28 de junio de 2025. Consultado el 11 de agosto de 2025 .
↑ "La pornografía de venganza "deepfake" ahora es ilegal en Virginia . TechCrunch . Julio de 2019. Archivado del original el 14 de julio de 2021. Consultado el 16 de octubre de 2019 .
↑ Iacono Brown, Nina (15 de julio de 2019). "El Congreso quiere resolver el problema de los deepfakes para 2020. Eso debería preocuparnos" . Revista Slate . Archivado del original el 16 de octubre de 2019. Recuperado el 16 de octubre de 2019 .
1 2 "Texto del proyecto de ley - AB-602 Representación de un individuo mediante tecnología digital o electrónica: material sexualmente explícito: causa de acción" . leginfo.legislature.ca.gov . Archivado del original el 17 de noviembre de 2019. Recuperado el 9 de noviembre de 2019 .
1 2 "Texto del proyecto de ley - AB-730 Elecciones: medios audiovisuales engañosos" . leginfo.legislature.ca.gov . Archivado del original el 31 de octubre de 2019. Consultado el 9 de noviembre de 2019 .
↑ HR 5586: Ley de Responsabilidad por DEEPFAKES Govtrack.US consultado el 15 de agosto de 2024.
↑ HR 6943: Ley contra el fraude en IA. Govtrack.US consultado el 15 de agosto de 2024.
↑ Hatmaker, Taylor (1 de mayo de 2018). "DARPA está financiando nueva tecnología que puede identificar vídeos manipulados y 'deepfakes'"." . TechCrunch . Archivado del original el 8 de diciembre de 2023 . Consultado el 14 de abril de 2024 .
↑ Hsu, Jeremy (22 de junio de 2018). "Expertos apuestan por el primer escándalo político de deepfakes - IEEE Spectrum" . IEEE . Archivado del original el 22 de febrero de 2024. Recuperado el 14 de abril de 2024 .
↑ "Análisis forense de medios" . www.darpa.mil . Archivado del original el 29 de octubre de 2020. Consultado el 7 de octubre de 2020 .
↑ "El ejército estadounidense está financiando un esfuerzo para detectar deepfakes y otros engaños de IA" . MIT Technology Review . Archivado del original el 1 de noviembre de 2020. Consultado el 7 de octubre de 2020 .
↑ Collins, Connor (11 de marzo de 2019). "DARPA combate los deepfakes con IA" . GovCIO Media & Research . Archivado del original el 2 de marzo de 2024. Recuperado el 14 de abril de 2024 .
1 2 "DARPA aborda el problema de los deepfakes" . Nextgov.com . 6 de agosto de 2019. Archivado del original el 28 de octubre de 2020. Consultado el 7 de octubre de 2020 .
↑ Sybert, Sarah (16 de septiembre de 2021). "DARPA lanza nuevos programas para detectar medios falsificados" . GovCIO Media & Research . Archivado del original el 10 de junio de 2024. Recuperado el 14 de abril de 2024 .
↑ Cooper, Naomi (15 de marzo de 2024). "DARPA lanza dos nuevas iniciativas para reforzar las defensas contra los medios manipulados" . Archivado del original el 15 de marzo de 2024. Consultado el 14 de abril de 2024 .
↑ "Análisis forense semántico - Catálogo analítico" . semanticforensics.com . Archivado del original el 18 de abril de 2024. Consultado el 14 de abril de 2024 .
↑ Academias Nacionales de Ciencias, Ingeniería y Medicina (22 de junio de 2023). "La Cumbre del Premio Nobel impulsa iniciativas para combatir la desinformación y generar confianza en la ciencia" . Academias Nacionales de Ciencias, Ingeniería y Medicina . Wikidata Q124711722 .

Lecturas adicionales

Daniel Immerwahr , «Tus ojos mentirosos: La gente ahora usa IA para generar videos falsos indistinguibles de los reales. ¿Cuánto importa?», The New Yorker , 20 de noviembre de 2023, pp. 54-59. «Si por "deepfakes" entendemos videos realistas producidos con inteligencia artificial que realmente engañan a la gente, entonces apenas existen. Los falsos no son profundos, y los profundos no son falsos. [...] Los videos generados por IA no funcionan, en general, en nuestros medios como evidencia falsificada. Su función se asemeja más a la de los dibujos animados , especialmente los obscenos». (p. 59).
Emmanouil Billis, " Deepfakes και Ποινικό Δίκαιο [Deepfakes y Derecho Penal ] " (en griego). En: H. Satzger et al. (eds.), Los límites y el futuro del derecho penal: ensayos en honor de Christos Mylonopoulos , Atenas, PN Sakkoulas, 2024, pp. 689–732.

Enlaces externos

Sasse, Ben (19 de octubre de 2018). "Esta nueva tecnología podría llevar a la política estadounidense a una espiral descendente" . Opiniones. The Washington Post . Consultado el 10 de julio de 2019 .
Desafío de detección de audio falso/suplantado (ASVspoof)
Desafío de detección de deepfakes (DFDC)
Bibliografía: Alfabetización mediática en la era de los deepfakes . Editado por el Dr. Joshua Glick.
Antes de creerlo: ¿cómo reconocer un deepfake y es intrínsecamente malvado?
Tyagi, Vipin (2026). Detección de falsificación de imágenes digitales: técnicas, desafíos y aplicaciones . SpringerBriefs in Computer Science. Singapur: Springer Nature Singapore. doi : 10.1007/978-981-95-3004-5 . ISBN 978-981-953003-8OCLC 1547114493

[:8-1] 1 2 Wahab, Abdul (1 de octubre de 2025). "Futuros de Deepfake y la sociedad: mitos, metáforas e implicaciones futuras para un futuro digital confiable" . Futures . 173 103672. doi : 10.1016/j.futures.2025.103672 . ISSN 0016-3287 .

[2] Kalpokas, Ignas; Kalpokiene, Julija (2022). Falsificaciones profundas . Springer Cham. págs. 1– 2. doi : 10.1007/978-3-030-93802-4 . ISBN 978-3-030-93801-7.

[3] Berry, David M. (19 de marzo de 2025). "Medios sintéticos y capitalismo computacional: hacia una teoría crítica de la inteligencia artificial" . AI & Society . 40 (7): 5257– 5269. arXiv : 2503.18976 . doi : 10.1007/s00146-025-02265-2 . ISSN 1435-5655 .

[4] Maher, Sean William (2 de abril de 2026). "Deepfakes" . Enciclopedia . 6 (4): 80. doi : 10.3390/encyclopedia6040080 .

[5] Juefei-Xu, Felix; Wang, Run; Huang, Yihao; Guo, Qing; Ma, Lei; Liu, Yang (1 de julio de 2022). "Contrarrestando los deepfakes maliciosos: estudio, campo de batalla y horizonte" . Revista Internacional de Visión por Computadora . 130 (7): 1678– 1734. doi : 10.1007/s11263-022-01606-8 . ISSN 1573-1405 . PMC 9066404. PMID 35528632 .

[Kietzmann-2020-6] 1 2 Kietzmann, J.; Lee, LW; McCarthy, IP; Kietzmann, TC (2020). "Deepfakes: ¿Truco o trato?" ( PDF) . Business Horizons . 63 (2): 135– 146. doi : 10.1016/j.bushor.2019.11.006 . S2CID 213818098. Archivado (PDF) del original el 29 de diciembre de 2022. Recuperado el 30 de diciembre de 2022 .

[Waldrop-7] Waldrop, M. Mitchell (16 de marzo de 2020). «Medios sintéticos: El verdadero problema de los deepfakes» . Revista Knowable . Reseñas anuales. doi : 10.1146/knowable-031320-1 . Archivado del original el 19 de noviembre de 2022. Consultado el 19 de diciembre de 2022 .

[Schwartz-8] Schwartz, Oscar (12 de noviembre de 2018). "¿Creías que las noticias falsas eran malas? Los deepfakes son donde muere la verdad" . The Guardian . Archivado del original el 16 de junio de 2019. Recuperado el 14 de noviembre de 2018 .

[Farid-9] Farid, Hany (15 de septiembre de 2019). "Image Forensics" . Annual Review of Vision Science . 5 (1): 549– 573. doi : 10.1146/annurev-vision-091718-014827 . ISSN 2374-4642 . PMID 31525144. S2CID 263558880. Archivado del original el 10 de junio de 2024. Recuperado el 20 de septiembre de 2023 .

[HighSnobiety2018-10] Banks, Alec (20 de febrero de 2018). "¿Qué son los deepfakes y por qué el futuro del porno es aterrador?" . Highsnobiety . Archivado del original el 14 de julio de 2021. Recuperado el 20 de febrero de 2018 .

[11] Christian, Jon. "Los expertos temen que la tecnología de intercambio de rostros pueda desencadenar un enfrentamiento internacional" . The Outline . Archivado del original el 16 de enero de 2020. Consultado el 28 de febrero de 2018 .

[12] Roose, Kevin (4 de marzo de 2018). "Aquí vienen también los vídeos falsos" . The New York Times . ISSN 0362-4331 . Archivado del original el 18 de junio de 2019. Recuperado el 24 de marzo de 2018 .

[13] Schreyer, Marco; Sattarov, Timur; Reimer, Bernd; Borth, Damián (octubre de 2019). "Aprendizaje contradictorio de deepfakes en contabilidad". arXiv : 1910.03810 [ cs.LG ].

[14] "Peligros de los deepfakes: qué tener en cuenta | Informática Universitaria" . uit.stanford.edu . Consultado el 11 de agosto de 2025 .

[15] Savat, Sara (19 de agosto de 2024). "Los vídeos deepfake políticos no son más engañosos que otras noticias falsas, según una investigación" . The Source . Recuperado el 11 de agosto de 2025 .

[16] Caramancion, Kevin Matthe (21 de abril de 2021). "El perfil demográfico con mayor riesgo de desinformación" . Conferencia Internacional IEEE de IoT, Electrónica y Mecatrónica de 2021 (IEMTRONICS) . IEEE. págs. 1-7 . doi : 10.1109/iemtronics52119.2021.9422597 . ISBN 978-1-6654-4067-7. S2CID 234499888 . Archivado del original el 10 de junio de 2024 . Recuperado el 9 de junio de 2023 .

[17] Lalla, Vejay; Mitrani, Adine; Harned, Zach. «Inteligencia artificial: deepfakes en la industria del entretenimiento» . Organización Mundial de la Propiedad Intelectual . Archivado del original el 8 de noviembre de 2022. Consultado el 8 de noviembre de 2022 .

[Harwell-2019-18] 1 2 3 Harwell, Drew (12 de junio de 2019). "Los principales investigadores de IA compiten por detectar vídeos 'deepfake': 'Estamos en desventaja'"" . The Washington Post . Archivado del original el 31 de octubre de 2019 . Consultado el 8 de noviembre de 2019 .

[19] Sánchez, Julián (8 de febrero de 2018). "Gracias a la IA, el futuro de las 'noticias falsas' se está gestando en la pornografía casera" . NBC News . Archivado del original el 9 de noviembre de 2019. Consultado el 8 de noviembre de 2019 .

[Porter-2019-20] 1 2 3 4 Porter, Jon (2 de septiembre de 2019). "Otra aplicación de deepfake convincente se vuelve viral y provoca una reacción inmediata en materia de privacidad" . The Verge . Archivado del original el 3 de septiembre de 2019. Recuperado el 8 de noviembre de 2019 .

[Masood-2023-21] 1 2 3 Masood, Momina; Nawaz, Mariam; Malik, Khalid Mahmood; Javed, Ali; Irtaza, Aun; Malik, Hafiz (febrero de 2023). "Generación y detección de deepfakes: estado del arte, desafíos abiertos, contramedidas y camino a seguir". Applied Intelligence . 53 (4): 2– 5. doi : 10.1007/s10489-022-03766-z .

[22] Keith D., Foote. "Una breve historia de la IA generativa" . Dataversity .

[Vatreš_2021_561–576-23] Vatreš, Amina (2021). "Fenómeno deepfake: una forma avanzada de noticias falsas y sus implicaciones para el periodismo confiable" . Društvene i humanističke studije . 16 (3): 561– 576. doi : 10.51558/2490-3647.2021.6.3.561 .

[Andrew_H_2022-24] Rana, doctor Shohel; Nobi, Mohammad Nur; Murali, Beddhu; Cantado, Andrew H. (2022). "Detección de deepfake: una revisión sistemática de la literatura" . Acceso IEEE . 10 : 25494– 25513. Código bibliográfico : 2022IEEEA..1025494R . doi : 10.1109/ACCESS.2022.3154404 . ISSN 2169-3536 .

[25] Sudarsan, Ananya; Chua, Hui Na; Jasser, Muhammed Basheer; Wong, Richard TK (1 de marzo de 2024). "Caracterización, propagación y detección de deepfakes en redes sociales: una revisión de síntesis". 2024 20.º Coloquio Internacional IEEE sobre Procesamiento de Señales y sus Aplicaciones (CSPA) . IEEE. págs. 219–224 . doi : 10.1109/CSPA60979.2024.10525373 . ISBN 979-8-3503-8231-0.

[26] Sudarsan, Ananya; Chua, Hui Na; Jasser, Muhammed Basheer; Wong, Richard TK (1 de marzo de 2024). "Caracterización, propagación y detección de deepfakes en redes sociales: una revisión de síntesis". 2024 20.º Coloquio Internacional IEEE sobre Procesamiento de Señales y sus Aplicaciones (CSPA) . IEEE. págs. 219–224 . doi : 10.1109/CSPA60979.2024.10525373 . ISBN 979-8-3503-8231-0.

[27] Sudarsan, Ananya; Chua, Hui Na; Jasser, Muhammed Basheer; Wong, Richard TK (1 de marzo de 2024). "Caracterización, propagación y detección de deepfakes en redes sociales: una revisión de síntesis". 2024 20.º Coloquio Internacional IEEE sobre Procesamiento de Señales y sus Aplicaciones (CSPA) . IEEE. págs. 219–224 . doi : 10.1109/CSPA60979.2024.10525373 . ISBN 979-8-3503-8231-0.

[28] Bode, Lisa; Lees, Dominic; Golding, Dan (29 de julio de 2021). "El rostro digital y los deepfakes en pantalla" . Convergence: The International Journal of Research into New Media Technologies . 27 (4): 849– 854. doi : 10.1177/13548565211034044 . ISSN 1354-8565 . S2CID 237402465 .

[29] "Ley de eliminación de contenido para adultos en plataformas de creadores de contenido" . copyrightshark.com . Marzo de 2026. Consultado el 20 de marzo de 2026 .

[Holliday-2021-30] 1 2 Holliday, Christopher (26 de julio de 2021). "Reescribiendo las estrellas: tensiones superficiales y problemas de género en la producción de deepfakes digitales en los medios en línea" . Convergence: The International Journal of Research into New Media Technologies . 27 (4): 899– 918. doi : 10.1177/13548565211029412 . ISSN 1354-8565 . S2CID 237402548 .

[31] Gingrich, Oliver M. (5 de julio de 2021). "GENDER*UCK: Replantear el género y el arte mediático" . Actas de EVA London 2021 (EVA 2021) . Talleres electrónicos en informática. doi : 10.14236/ewic/EVA2021.25 . S2CID 236918199 .

[32] Fletcher, John (2018). "Deepfakes, inteligencia artificial y algún tipo de distopía: las nuevas caras de la performance posfactual en línea" . Theatre Journal . 70 (4): 455– 471. doi : 10.1353/tj.2018.0097 . ISSN 1086-332X . S2CID 191988083 .

[33] Seta, Gabriele (30 de julio de 2021). "Huanlian, o caras cambiantes: Deepfakes en plataformas de medios digitales chinas" . Convergence : The International Journal of Research into New Media Technologies . 27 (4): 935– 953. doi : 10.1177/13548565211030185 . hdl : 11250/2833613 . ISSN 1354-8565 . S2CID 237402447. Archivado del original el 10 de junio de 2024. Recuperado el 9 de febrero de 2022 .

[Bregler-1997-34] 1 2 Bregler, Christoph; Covell, Michele; Slaney, Malcolm (1997). "Video Rewrite: Driving visual speech with audio" . Actas de la 24.ª conferencia anual sobre gráficos por computadora y técnicas interactivas – SIGGRAPH '97 . Vol. 24. págs. 353–360 . doi : 10.1145/258734.258880 . ISBN 0-89791-896-7. S2CID 2341707 . Archivado del original el 10 de junio de 2024 . Recuperado el 10 de julio de 2023 .

[Suwajanakorn-2017-35] 1 2 3 Suwajanakorn, Supasorn; Seitz, Steven M.; Kemelmacher-Shlizerman, Ira (julio de 2017). "Sintetizando a Obama: Aprendiendo sincronización labial a partir de audio" . ACM Trans. Graph . 36 (4): 95:1–95:13. doi : 10.1145/3072959.3073640 . S2CID 207586187. Archivado del original el 19 de mayo de 2020. Recuperado el 10 de julio de 2023 .

[Thies-2016-36] 1 2 Thies, Justus; Zollhöfer, Michael; Stamminger, Marc; Theobalt, Christian; Nießner, Matthias (junio de 2016). "Face2Face: Captura facial en tiempo real y recreación de vídeos RGB". Conferencia IEEE de 2016 sobre visión por computadora y reconocimiento de patrones (CVPR) . IEEE. págs. 2387–2395 . arXiv : 2007.14808 . doi : 10.1109/CVPR.2016.262 . ISBN 978-1-4673-8851-1. S2CID 206593693 .

[37] Mirsky, Yisroel; Mahler, Tom; Shelef, Ilan; Elovici, Yuval (2019). CT-GAN: Manipulación maliciosa de imágenes médicas 3D mediante aprendizaje profundo . págs. 461–478 . arXiv : 1901.03597 . ISBN 978-1-939133-06-9Archivado del original el 20 de junio de 2020. Consultado el 18 de junio de 2020 .

[38] O'Neill, Patrick Howell (3 de abril de 2019). "Investigadores demuestran un software malicioso que puede engañar a los médicos para que diagnostiquen erróneamente el cáncer" . Gizmodo . Archivado del original el 10 de junio de 2024. Consultado el 3 de junio de 2022 .

[39] Mirsky, Yisroel; Lee, Wenke (12 de mayo de 2020). "La creación y detección de deepfakes: una revisión". ACM Computing Surveys . arXiv : 2004.11138 . doi : 10.1145/3425780 . S2CID 216080410 .

[40] Karnouskos, Stamatis (2020). "Inteligencia artificial en los medios digitales: la era de los deepfakes" (PDF) . IEEE Transactions on Technology and Society . 1 (3): 138. Bibcode : 2020ITTS....1..138K . doi : 10.1109 /TTS.2020.3001312 . S2CID 221716206. Archivado (PDF) del original el 14 de julio de 2021. Recuperado el 9 de julio de 2020 .

[Cole-2018b-41] 1 2 Cole, Samantha (24 de enero de 2018). "Estamos realmente jodidos: ahora todo el mundo hace porno falso generado por IA" . Vice . Archivado del original el 7 de septiembre de 2019. Recuperado el 4 de mayo de 2019 .

[42] Haysom, Sam (31 de enero de 2018). "La gente está usando tecnología de intercambio de rostros para agregar a Nicolas Cage a películas aleatorias y ¿qué es 2018?" . Mashable . Archivado del original el 24 de julio de 2019. Recuperado el 4 de abril de 2019 .

[Lyu-2020-43] Lyu, Siwei (julio de 2020). "Detección de deepfakes: desafíos actuales y próximos pasos". 2020 IEEE International Conference on Multimedia & Expo Workshops (ICMEW) . pág. 1. arXiv : 2003.09234 . doi : 10.1109/ICMEW46912.2020.9105991 . ISBN 978-1-7281-1485-9.

[Hathaway-2018-44] Hathaway, Jay (8 de febrero de 2018). "Aquí es donde fueron los 'deepfakes', el nuevo porno falso de celebridades, después de la prohibición de Reddit" . The Daily Dot . Archivado del original el 6 de julio de 2019. Recuperado el 22 de diciembre de 2018 .

[45] "¿Qué es un deepfake y cómo se crean?" . Consejos de tecnología en línea . 23 de mayo de 2019. Archivado del original el 8 de noviembre de 2019. Consultado el 20 de diciembre de 2025 .

[46] Robertson, Adi (11 de febrero de 2018). "Estoy usando IA para intercambiar las caras de Elon Musk y Jeff Bezos, y soy realmente malo en ello" . The Verge . Archivado del original el 24 de marzo de 2018. Recuperado el 8 de noviembre de 2019 .

[47] "Deepfakes web | La mejor aplicación online para intercambiar caras" . Deepfakes web . Archivado del original el 14 de julio de 2021. Consultado el 21 de febrero de 2021 .

[Faceswap-2019-48] "Faceswap es el software Deepfakes multiplataforma gratuito y de código abierto líder" . 15 de octubre de 2019. Archivado del original el 31 de mayo de 2021. Recuperado el 14 de julio de 2021 a través de WordPress.

[Github-2022-49] "DeepFaceLab es una herramienta que utiliza aprendizaje automático para reemplazar rostros en videos. Incluye un binario independiente precompilado y listo para usar en Windows 7, 8 y 10 (ver readme.md).: iperov/DeepFaceLab" . 19 de junio de 2019. Archivado del original el 9 de mayo de 2019. Recuperado el 6 de marzo de 2019 a través de GitHub.

[50] Chandler, Simon. "Por qué los deepfakes son un beneficio neto para la humanidad" . Forbes . Archivado del original el 16 de noviembre de 2020. Consultado el 3 de noviembre de 2020 .

[51] Pangburn, DJ (21 de septiembre de 2019). "Estás advertido: los deepfakes de cuerpo completo son el siguiente paso en la imitación humana basada en IA" . Fast Company . Archivado del original el 8 de noviembre de 2019. Recuperado el 8 de noviembre de 2019 .

[52] Lyons, Kim (29 de enero de 2020). "La FTC afirma que la tecnología detrás de los deepfakes de audio está mejorando" . The Verge . Archivado del original el 30 de enero de 2020. Recuperado el 8 de febrero de 2020 .

[53] "Muestras de audio de "Aprendizaje por transferencia desde la verificación del hablante hasta la síntesis de voz con múltiples hablantes"" . google.github.io . Archivado del original el 14 de noviembre de 2019 . Recuperado el 8 de febrero de 2020 .

[54] "FaceForensics++: Aprendizaje para detectar imágenes faciales manipuladas" . Conferencia Internacional IEEE sobre Visión por Computadora . 2019.

[55] "Facebook AI lanza su desafío de detección de deepfakes" . IEEE Spectrum . 11 de diciembre de 2019. Consultado el 6 de mayo de 2026 .

[56] "Aportando datos a la investigación sobre detección de deepfakes" . Google Research . 24 de septiembre de 2019. Archivado del original el 5 de febrero de 2020. Consultado el 8 de febrero de 2020 .

[57] Thalen, Mikael. "Ahora puedes convertirte en una celebridad mediante deepfake con solo unos clics" . daily.dot . Archivado del original el 6 de abril de 2020. Consultado el 3 de abril de 2020 .

[58] Matthews, Zane (6 de marzo de 2020). "Diversión o miedo: una aplicación deepfake inserta rostros de famosos en tus selfies" . Kool1079 . Archivado del original el 24 de marzo de 2020. Recuperado el 6 de marzo de 2020 .

[59] van der Sloot, Bart (2024). Regulating the Synthetic Society : Generative AI, Legal Questions, and Societal Challenges . Bloomsbury Academic. ISBN 978-1-5099-7495-5Consultado el 21 de noviembre de 2025 .

[60] «Kanye West, Kim Kardashian y su padre: ¿Deberíamos hacer hologramas de los muertos?» . BBC News . 31 de octubre de 2020. Archivado del original el 15 de noviembre de 2020. Consultado el 11 de noviembre de 2020 .

[61] "Kanye West le regaló a Kim Kardashian un holograma de su padre por su cumpleaños" . themodems . 30 de octubre de 2020. Archivado del original el 11 de noviembre de 2020. Consultado el 11 de noviembre de 2020 .

[62] "Joaquín Oliver, víctima de Parkland, vuelve a la vida en un conmovedor llamado a los votantes" . adage.com . 2 de octubre de 2020. Archivado del original el 11 de noviembre de 2020. Consultado el 11 de noviembre de 2020 .

[63] Bowenbank, Starr (14 de septiembre de 2022). "Simon Cowell canta a dúo con Elvis en la última actuación deepfake de Metaphysic en 'AGT': Míralo" . Billboard . Archivado del original el 15 de septiembre de 2022. Recuperado el 8 de noviembre de 2022 .

[64] Zucconi, Alan (14 de marzo de 2018). "Comprendiendo la tecnología detrás de los deepfakes" . Alan Zucconi . Archivado del original el 1 de noviembre de 2019. Recuperado el 8 de noviembre de 2019 .

[65] "¿Qué es un deepfake?" . Blog - Synthesys . 3 de mayo de 2022. Archivado del original el 26 de junio de 2022 . Consultado el 17 de mayo de 2022 .

[66] Ayata, Ozan. "Realidades artificiales: medidas de mitigación contra los deepfakes" (PDF) . Centro para la Innovación en la Gobernanza Internacional . Consultado el 4 de febrero de 2026 .

[Wired-1059-67] 1 2 "Estos nuevos trucos pueden burlar los vídeos deepfake, por ahora" . Wired . ISSN 1059-1028 . Archivado del original el 3 de octubre de 2019. Consultado el 9 de noviembre de 2019 .

[68] Kemp, Luke (8 de julio de 2019). "¿En la era de los deepfakes, podrían los actores virtuales dejar sin trabajo a los humanos?" . The Guardian . ISSN 0261-3077 . Archivado del original el 20 de octubre de 2019. Consultado el 20 de octubre de 2019 .

[69] Verma, Pranshu (21 de julio de 2023). "Los clones digitales creados con tecnología de IA podrían dejar obsoletos a los extras de Hollywood" . Washington Post . Archivado del original el 20 de julio de 2023. Consultado el 4 de enero de 2024 .

[High-2020-70] 1 2 "Intercambio neuronal de rostros de alta resolución para efectos visuales | Disney Research Studios" . Archivado del original el 27 de noviembre de 2020. Recuperado el 7 de octubre de 2020 .

[Naruniec-2020-71] 1 2 "La tecnología deepfake de Disney podría usarse en cine y televisión" . Blooloop . 21 de julio de 2020. Archivado del original el 12 de noviembre de 2020. Consultado el 7 de octubre de 2020 .

[72] Lindley, Jon A. (2 de julio de 2020). "Disney se aventura a revivir a 'actores fallecidos' mediante reconocimiento facial" . Tech Times . Archivado del original el 14 de julio de 2021. Consultado el 7 de octubre de 2020 .

[73] Radulovic, Petrana (17 de octubre de 2018). "Harrison Ford es la estrella de Solo: Una historia de Star Wars gracias a la tecnología deepfake" . Polygon . Archivado del original el 20 de octubre de 2019. Recuperado el 20 de octubre de 2019 .

[74] Winick, Erin. "Cómo interpretar a la marioneta de Carrie Fisher impulsó la carrera de la Princesa Leia en Rogue One" . MIT Technology Review . Archivado del original el 23 de octubre de 2019. Consultado el 20 de octubre de 2019 .

[75] "El deepfake de Luke Skywalker es otro paso más en la macabra senda de los efectos especiales generados por ordenador" . British GQ . 10 de febrero de 2022. Archivado del original el 22 de mayo de 2022. Consultado el 3 de junio de 2022 .

[76] "No fue Vijay, aquí está quién interpretó su versión joven en The GOAT" . english.tupaki.com/ . 8 de septiembre de 2024. Consultado el 8 de noviembre de 2024 .

[77] Constantine, Megan; Lim, Audrey; Glass, Lia; Webb, Melanie; Simpson, Kyle; Carrion, Joey; DeMoraes, Isa; Olatunde, Timi; Westerman, Reagan; Rybachek, Anna; Gunn, Nicholas (24 de octubre de 2025). "The Student Movement Volumen 110 Número 5: En el mercado de la gastronomía y el K-Pop" . The Student Movement V. 110 (2025-2026) .

[78] Katerina Cizek, William Uricchio y Sarah Wolozin: Sabiduría colectiva | Instituto Tecnológico de MassachusettsArchivado el 4 de marzo de 2020 en Wayback Machine.

[79] "ANSA | Ornella Muti in cortometraggio a Firenze" . 3 de noviembre de 2017. Archivado del original el 27 de febrero de 2020. Recuperado el 27 de febrero de 2020 .

[80] "Los creadores de 'South Park' lanzan una nueva serie satírica de deepfake llamada 'Sassy Justice'." . NME . 27 de octubre de 2020. Archivado del original el 10 de junio de 2024 . Consultado el 7 de junio de 2022 .

[CRS1-81] 1 2 Tayler, Kelley M.; Harris, Laurie A. (8 de junio de 2021). Deep Fakes y seguridad nacional (Informe). Servicio de Investigación del Congreso . pág. 1. Archivado del original el 14 de junio de 2022. Recuperado el 19 de julio de 2021 .

[82] Limberg, Peter (24 de mayo de 2020). "Explosión por chantaje" . CultState . Archivado del original el 24 de enero de 2021. Recuperado el 18 de enero de 2021 .

[83] "Para Kappy" . Telegraph . 24 de mayo de 2020. Archivado del original el 24 de enero de 2021. Consultado el 18 de enero de 2021 .

[84] Harwell, Drew (8 de febrero de 2023). "Cómo se utilizan los vídeos deepfake para difundir desinformación y acosar a la gente" . The Washington Post . Consultado el 13 de agosto de 2025 .

[85] "Los jueces de AGT tuvieron reacciones impagables a la audición de canto de Simon Cowell" . Sitio oficial de NBC Insider . 8 de junio de 2022. Archivado del original el 29 de agosto de 2022. Consultado el 29 de agosto de 2022 .

[86] Marr, Bernard. "¿Puede una IA del metaverso ganar America's Got Talent? (Y qué significa eso para la industria)" . Forbes . Archivado del original el 30 de agosto de 2022. Recuperado el 30 de agosto de 2022 .

[87] Morales, Jowi (10 de junio de 2022). "Los deepfakes se popularizan: cómo la participación de Metaphysic en AGT impactará el entretenimiento" . MUO . Archivado del original el 10 de junio de 2024. Recuperado el 29 de agosto de 2022 .

[88] Carter, Rebecca (1 de junio de 2019). "Los espectadores de BGT critican duramente a Simon Cowell por un comentario 'grosero' y 'desagradable' a una concursante" . Entertainment Daily . Archivado del original el 31 de agosto de 2022. Consultado el 31 de agosto de 2022 .

[89] ¿ Simon Cowell canta en el escenario? ¡Metaphysic te dejará sin palabras! | AGT 2022 , archivado del original el 29 de agosto de 2022 , consultado el 29 de agosto de 2022

[90] Segarra, Edward. "Los jueces de 'AGT', Simon Cowell y Howie Mandel, son sometidos a un tratamiento de 'deepfake' por parte del grupo de IA Metaphysic: Míralo aquí" . USA TODAY . Archivado del original el 31 de agosto de 2022. Consultado el 31 de agosto de 2022 .

[91] Bowenbank, Starr (14 de septiembre de 2022). "Simon Cowell canta a dúo con Elvis en la última actuación deepfake de Metaphysic en 'AGT': Míralo" . Billboard . Archivado del original el 10 de junio de 2024. Recuperado el 15 de septiembre de 2022 .

[kotaku-92] Zwiezen, Zack (18 de enero de 2021). "Un sitio web te permite hacer que GLaDOS diga lo que quieras" . Kotaku . Archivado del original el 17 de enero de 2021. Consultado el 18 de enero de 2021 .

[gameinformer-93] Ruppert, Liana (18 de enero de 2021). "Haz que GLaDOS de Portal y otros personajes queridos digan las cosas más raras con esta aplicación" . Game Informer . Archivado del original el 18 de enero de 2021. Recuperado el 18 de enero de 2021 .

[pcgamer-94] Clayton, Natalie (19 de enero de 2021). "Haz que el elenco de TF2 recite memes antiguos con esta herramienta de conversión de texto a voz con IA" . PC Gamer . Archivado del original el 19 de enero de 2021. Recuperado el 19 de enero de 2021 .

[95] Sherman, Maria (3 de diciembre de 2023). «Kiss se despide de las giras en vivo, se convierte en la primera banda estadounidense en pasarse al formato virtual y se transforma en avatares digitales» . AP News . Associated Press. Archivado del original el 1 de enero de 2024. Consultado el 4 de enero de 2024 .

[:0-96] 1 2 Cerullo, Megan (9 de enero de 2024). "Anuncios generados por IA que utilizan la imagen de Taylor Swift engañan a los fans con un falso sorteo de Le Creuset" . CBS News . Archivado del original el 10 de enero de 2024. Recuperado el 10 de enero de 2024 .

[Westfall-97] 1 2 Westfall, Chris. "Aumento de los deepfakes con IA que causan pérdidas multimillonarias por fraude" . Forbes . Consultado el 1 de diciembre de 2024 .

[:1-98] 1 2 3 4 Hsu, Tiffany; Lu, Yiwen (9 de enero de 2024). "No, no es Taylor Swift vendiendo utensilios de cocina Le Creuset" . The New York Times . pág. B1 . Consultado el 10 de enero de 2024 .

[:2-99] 1 2 Taylor, Derrick Bryson (2 de octubre de 2023). "Tom Hanks advierte sobre un anuncio dental que utiliza una versión de él creada con IA" . The New York Times . ISSN 0362-4331 . Archivado del original el 10 de junio de 2024. Recuperado el 12 de octubre de 2023 .

[:3-100] 1 2 Johnson, Kirsten (11 de diciembre de 2023). "Una mujer de Arizona cae víctima de una estafa de deepfake que utiliza a celebridades en las redes sociales" . ABC 15 Arizona . Archivado del original el 10 de enero de 2024. Recuperado el 10 de enero de 2024 .

[:4-101] 1 2 Kulundu, Mary (4 de enero de 2024). "Vídeos deepfake de Elon Musk utilizados en una estafa para hacerse rico rápidamente" . Agence France-Presse . Archivado del original el 10 de junio de 2024. Recuperado el 10 de enero de 2024 .

[102] Esmael, Lisbet (3 de enero de 2024). "Filipinas necesita un enfoque multifacético contra los videos 'deepfake' utilizados para estafar a los filipinos" . CNN Filipinas . Archivado del original el 10 de enero de 2024. Recuperado el 10 de enero de 2024 .

[103] Gerken, Tom (4 de octubre de 2023). "MrBeast y estrellas de la BBC utilizadas en vídeos de estafa deepfake" . BBC News . Archivado del original el 10 de junio de 2024. Recuperado el 10 de enero de 2024 .

[:5-104] 1 2 Lim, Kimberly (29 de diciembre de 2023). "El primer ministro de Singapur, Lee, advierte sobre deepfakes 'muy convincentes' que 'difunden desinformación' tras la aparición de un vídeo falso suyo" . South China Morning Post . Archivado del original el 9 de enero de 2024. Recuperado el 10 de enero de 2024 .

[105] Taylor, Josh (30 de noviembre de 2023). "Un estafador pagó a Facebook 7 centavos por visualización para difundir un video de deepfake de Jim Chalmers y Gina Rinehart" . The Guardian . Archivado del original el 10 de junio de 2024. Recuperado el 10 de enero de 2024 .

[106] Palmer, Joseph Olbrycht (14 de diciembre de 2023). «Se utilizó un deepfake de funcionarios del Tesoro y del Banco Central australianos para promover una estafa de inversión» . Agence France-Presse . Archivado del original el 10 de enero de 2024. Consultado el 10 de enero de 2024 .

[:6-107] 1 2 Koebler, Jason (9 de enero de 2024). "Anuncios de celebridades con deepfake que promueven estafas de Medicare proliferan en YouTube" . 404 Media . Archivado del original el 10 de enero de 2024. Recuperado el 10 de enero de 2024 .

[:7-108] 1 2 Rosenblatt, Kalhan (3 de octubre de 2023). "MrBeast llama 'estafa' al anuncio de TikTok que muestra una versión de IA de él"" . NBC News . Archivado del original el 10 de enero de 2024 . Consultado el 10 de enero de 2024 .

[109] Koebler, Jason (25 de enero de 2024). "YouTube elimina 1000 vídeos de anuncios fraudulentos de IA de famosos" . 404 Media . Archivado del original el 10 de junio de 2024. Consultado el 2 de febrero de 2024 .

[110] Bucci, Nino (27 de noviembre de 2023). «Dick Smith critica a Facebook después de que estafadores difundieran un anuncio de vídeo deepfake» . The Guardian . Archivado del original el 10 de junio de 2024. Consultado el 10 de enero de 2024 .

[111] Lomas, Natasha (7 de julio de 2023). "Martin Lewis advierte sobre el 'primer' anuncio fraudulento de video deepfake que circula en Facebook" . TechCrunch . Archivado del original el 10 de enero de 2024. Recuperado el 10 de enero de 2024 .

[112] Lopatto, Elizabeth (3 de enero de 2024). "Una nueva y divertida consecuencia de los deepfakes: estafas con criptomonedas más convincentes" . The Verge . Archivado del original el 10 de enero de 2024. Recuperado el 10 de enero de 2024 .

[Statt-2019-113] Statt, Nick (5 de septiembre de 2019). "Los ladrones ahora utilizan deepfakes de IA para engañar a las empresas y conseguir que les envíen dinero" . Archivado del original el 15 de septiembre de 2019. Recuperado el 13 de septiembre de 2019 .

[Damiani-2019-114] Damiani, Jesse. "Se utilizó un deepfake de voz para estafar a un director ejecutivo por 243 000 dólares" . Forbes . Archivado del original el 14 de septiembre de 2019. Consultado el 9 de noviembre de 2019 .

[115] "Deepfakes, explicados" . MIT Sloan . 5 de marzo de 2024. Archivado del original el 5 de marzo de 2024. Consultado el 6 de marzo de 2024 .

[116] Schwartz, Christopher; Wright, Matthew (17 de marzo de 2023). "Los deepfakes de voz están llamando: esto es lo que son y cómo evitar ser estafado" . The Conversation . Archivado del original el 4 de enero de 2024. Recuperado el 4 de enero de 2024 .

[Bezmalinovic-2018-117] "Wenn Merkel plötzlich Trumps Gesicht trägt: die gefährliche Manipulation von Bildern und Videos " . Aargauer Zeitung . az Aargauer Zeitung. 3 de febrero de 2018. Archivado desde el original el 13 de abril de 2019 . Consultado el 9 de abril de 2018 .

[118] Gensing, Patrick. "Deepfakes: ¿Auf dem Weg in eine alternativa Realität?" . Archivado desde el original el 11 de octubre de 2018 . Consultado el 9 de abril de 2018 .

[119] Romano, Aja (18 de abril de 2018). "El simulacro de anuncio de servicio público de Obama realizado por Jordan Peele es una advertencia de doble filo contra las noticias falsas" . Vox . Archivado del original el 11 de junio de 2019. Recuperado el 10 de septiembre de 2018 .

[120] Swenson, Kyle (11 de enero de 2019). "Una estación de televisión de Seattle emitió imágenes manipuladas del discurso de Trump en el Despacho Oval. El empleado ha sido despedido" . The Washington Post . Archivado del original el 15 de abril de 2019. Recuperado el 11 de enero de 2019 .

[121] O'Sullivan, Donie (4 de junio de 2019). "El Congreso investigará los deepfakes tras la controversia generada por un vídeo manipulado de Pelosi" . CNN . Archivado del original el 29 de junio de 2019. Consultado el 9 de noviembre de 2019 .

[122] "#DiganLaVerdadBélgica" . Extinction Rebellion Bélgica . Archivado del original el 25 de abril de 2020. Consultado el 21 de abril de 2020 .

[123] Holubowicz, Gerald (15 de abril de 2020). "Extinction Rebellion se empeña en crear deepfakes" . Journalism.design (en francés). Archivado del original el 29 de julio de 2020. Recuperado el 21 de abril de 2020 .

[Carnahan_2020-124] Carnahan, Dustin (16 de septiembre de 2020). "Vídeos falsificados refuerzan creencias falsas sobre la salud mental de Biden" . The Conversation . Archivado del original el 9 de abril de 2022. Consultado el 9 de abril de 2022 .

[Parker_2020-125] Parker, Ashley (7 de septiembre de 2020). "Trump y sus aliados intensifican sus esfuerzos para difundir desinformación y noticias falsas" . The Independent . Consultado el 9 de abril de 2022 .

[126] Christopher, Nilesh (18 de febrero de 2020). "Acabamos de presenciar el primer uso de deepfakes en una campaña electoral india" . Vice . Archivado del original el 19 de febrero de 2020. Recuperado el 19 de febrero de 2020 .

[127] «Amabie: la criatura mítica que regresa tras el coronavirus» . The Economist . 28 de abril de 2020. ISSN 0013-0613 . Archivado del original el 20 de mayo de 2021. Consultado el 3 de junio de 2021 .

[128] Roth, Andrew (22 de abril de 2021). «Diputados europeos, blanco de videollamadas manipuladas con deepfake que imitan a la oposición rusa» . The Guardian . Archivado del original el 29 de marzo de 2022. Recuperado el 29 de marzo de 2022 .

[129] Ivanov, Maxim; Rothrock, Kevin (22 de abril de 2021). "Hola, soy Leonid Volkov*. Usando un video deepfake y haciéndose pasar por la mano derecha de Navalny, bromistas rusos engañan a políticos y periodistas letones para que los inviten a una entrevista televisiva" . Meduza . Archivado del original el 29 de marzo de 2022. Recuperado el 29 de marzo de 2022 .

[130] "Diputados holandeses en videoconferencia con imitación digital del jefe de gabinete de Navalny" . nltimes.nl . 24 de abril de 2021. Archivado del original el 10 de junio de 2024. Consultado el 29 de marzo de 2022 .

[131] "«Asistente de Navalny, manipulado mediante deepfake, ataca a legisladores europeos» . The Moscow Times . 23 de abril de 2021. Archivado del original el 29 de marzo de 2022. Consultado el 29 de marzo de 2022 .

[132] Vincent, James (30 de abril de 2021) .El "deepfake" que supuestamente engañó a los políticos europeos era solo un doble, dicen los bromistas . The Verge . Archivado del original el 29 de marzo de 2022. Consultado el 29 de marzo de 2022 .

[133] Novak, Matt (8 de mayo de 2023). "El video viral de Kamala Harris hablando sin sentido es en realidad un deepfake" . Forbes . Archivado del original el 18 de julio de 2023. Recuperado el 18 de julio de 2023 .

[134] "PolitiFact - Kamala Harris no estaba balbuceando sobre hoy, ayer o mañana. Este video está alterado" . Politifact . Archivado del original el 10 de junio de 2024. Recuperado el 18 de julio de 2023 .

[135] Shuham, Matt (8 de junio de 2023). "Anuncio de campaña de DeSantis muestra imágenes falsas de IA de Trump abrazando a Fauci" . HuffPost . Archivado del original el 10 de junio de 2024. Recuperado el 8 de junio de 2023 .

[136] GÖRGEN, Ahmet; SAYGINER, Can (1 de agosto de 2025). "Tecnología deepfake, medios de comunicación y seguridad nacional: el caso del vídeo deepfake de la canciller alemana" . Security Strategies Journal / Güvenlik Stratejileri Dergisi . 21 (51): 279– 297. doi : 10.17752/guvenlikstrtj.1706990 . ISSN 1305-4740 . Consultado el 3 de diciembre de 2025 .

[137] «Los deepfakes con IA representan una grave amenaza para las elecciones en EE. UU. e India» . The Washington Post . ISSN 0190-8286 . Archivado del original el 20 de mayo de 2024. Consultado el 22 de octubre de 2024 .

[138] Christopher, Nilesh (marzo de 2024). "Los votantes indios están siendo bombardeados con millones de deepfakes. Los candidatos políticos lo aprueban" . Wired . Archivado del original el 12 de marzo de 2024. Recuperado el 20 de octubre de 2024 .

[139] "Lo que un creador de deepfakes indio nos revela sobre la seguridad electoral global" . Bloomberg . Archivado del original el 1 de abril de 2024. Consultado el 20 de octubre de 2024 .

[140] Politi, Daniel; Alcoba, Natalie (2 de julio de 2025). "El presidente de Argentina se une a la campaña de desprestigio impulsada por IA contra un periodista" . New York Times . Consultado el 3 de julio de 2025 .

[141] «Julia Mengolini se quebró por una violenta campaña de libertarios a la que se sumó Milei» . La Nación (en español) . Consultado el 28 de junio de 2025 .

[142] Smith, Colby (21 de julio de 2025). "Actualizaciones en vivo de Trump: Las repercusiones del caso Epstein continúan mientras el presidente insta a sus seguidores a pasar página" . The New York Times . ISSN 0362-4331 . Consultado el 21 de julio de 2025 .

[143] Margolis, Andrea (20 de julio de 2025). "Trump publica un video generado por IA que muestra a Obama siendo arrestado al ritmo de 'YMCA'"" . Fox News . Consultado el 21 de julio de 2025 .

[Roettgers-2018-144] 1 2 Roettgers, Janko (21 de febrero de 2018). "Productores de pornografía se ofrecen a ayudar a Hollywood a eliminar videos deepfake" . Variety . Archivado del original el 10 de junio de 2019. Recuperado el 28 de febrero de 2018 .

[Dickson-2019-145] 1 2 3 Dickson, EJ (7 de octubre de 2019). "El porno deepfake sigue siendo una amenaza, especialmente para las estrellas del K-Pop" . Rolling Stone . Archivado del original el 30 de octubre de 2019. Recuperado el 9 de noviembre de 2019 .

[Ajder-2019-146] "El estado de los deepfakes: panorama, amenazas e impacto" (PDF) . Deeptrace . 1 de octubre de 2019. Archivado (PDF) del original el 9 de agosto de 2020. Consultado el 7 de julio de 2020 .

[147] Goggin, Benjamin (7 de junio de 2019). "Del porno a 'Juego de Tronos': cómo los deepfakes y los vídeos falsos de aspecto realista se hicieron tan populares" . Business Insider . Archivado del original el 8 de noviembre de 2019. Consultado el 9 de noviembre de 2019 .

[148] Lee, Dave (3 de febrero de 2018) .La pornografía falsa tiene graves consecuencias . Archivado del original el 1 de diciembre de 2019. Consultado el 9 de noviembre de 2019 .

[Cole-2018d-149] Cole, Samantha (19 de junio de 2018). "La solución de IA de Gfycat para combatir los deepfakes no funciona" . Vice . Archivado del original el 8 de noviembre de 2019. Recuperado el 9 de noviembre de 2019 .

[150] Zoe, Freni (24 de noviembre de 2019). "El porno deepfake llegó para quedarse" . Medium . Archivado del original el 10 de diciembre de 2019. Recuperado el 10 de diciembre de 2019 .

[Cole-2019a-151] Cole, Samantha; Maiberg, Emanuel; Koebler, Jason (26 de junio de 2019). "Esta horrible aplicación desnuda la foto de cualquier mujer con un solo clic" . Vice . Archivado del original el 2 de julio de 2019. Recuperado el 2 de julio de 2019 .

[152] Cox, Joseph (9 de julio de 2019). "GitHub eliminó las versiones de código abierto de DeepNude" . Vice Media . Archivado del original el 24 de septiembre de 2020. Recuperado el 14 de julio de 2019 .

[153] "pic.twitter.com/8uJKBQTZ0o" . 27 de junio de 2019. Archivado del original el 6 de abril de 2021. Consultado el 3 de agosto de 2019 .

[154] "Cientos de anuncios deepfake de contenido sexual que utilizaban el rostro de Emma Watson se publicaron en Facebook e Instagram en los últimos dos días" . NBC News . 7 de marzo de 2023. Archivado del original el 29 de febrero de 2024. Consultado el 8 de marzo de 2024 .

[155] Filipovic, Jill (31 de enero de 2024). «Cualquiera podría ser víctima de los "deepfakes". Pero hay una razón por la que Taylor Swift es un objetivo» . The Guardian . ISSN 0261-3077 . Archivado del original el 10 de junio de 2024. Consultado el 8 de marzo de 2024 .

[156] Paris, Britt (octubre de 2021). "Configurando falsificaciones: cuerpos digitalizados, la política de la evidencia y la agencia" . Social Media + Society . 7 (4) 20563051211062919. doi : 10.1177/20563051211062919 . ISSN 2056-3051 .

[157] Lazard, Lisa; Capdevila, Rose; Turley, Emma L; Gilfoyle, Kathryn; Stavropoulou, Nelli (21 de noviembre de 2025). "Tecnología deepfake y violencia de género: una revisión exploratoria" . Trauma, Violence, & Abuse 15248380251384271. doi : 10.1177/15248380251384271 . ISSN 1524-8380 . PMID 41273018 .

[158] Damiani, Jesse. «La aplicación china de deepfake Zao se vuelve viral y enfrenta críticas inmediatas por sus políticas de seguridad y protección de datos de usuario» . Forbes . Archivado del original el 14 de septiembre de 2019. Consultado el 18 de noviembre de 2019 .

[159] "Antes de las elecciones irlandesas y estadounidenses, Facebook anuncia nuevas medidas contra los vídeos 'deepfake'" . Independent.ie . 7 de enero de 2020. Archivado del original el 8 de enero de 2020. Consultado el 7 de enero de 2020 .

[160] "Cómo el experto visual belga Chris Ume ideó los deepfakes de Tom Cruise" . The Statesman . 6 de marzo de 2021. Archivado del original el 24 de agosto de 2022. Consultado el 24 de agosto de 2022 .

[161] Metz, Rachel. "Cómo un deepfake de Tom Cruise en TikTok se convirtió en una empresa de IA muy real" . CNN . Archivado del original el 10 de junio de 2024. Recuperado el 17 de marzo de 2022 .

[162] Corcoran, Mark; Henry, Matt (23 de junio de 2021). "Este no es Tom Cruise. Eso es lo que tiene tan preocupados a los expertos en seguridad" . ABC News . Archivado del original el 28 de marzo de 2022. Recuperado el 28 de marzo de 2022 .

[163] Reuters, 15 de julio de 2020, El uso de deepfake para atacar a una pareja de activistas muestra una nueva frontera de la desinformación. Archivado el 26 de septiembre de 2020 en Wayback Machine.

[Perfect-164] 1 2 "La tecnología deepfake perfecta podría llegar antes de lo esperado" . www.wbur.org . 2 de octubre de 2019. Archivado del original el 30 de octubre de 2019. Consultado el 9 de noviembre de 2019 .

[165] Vincent, James. "Los deepfakes se están volviendo más realistas y más difíciles de detectar" . The Verge . Consultado el 13 de agosto de 2025 .{{cite web}}: CS1 mantenimiento: estado de la URL ( enlace )

[166] Sonnemaker, Tyler. «Mientras las plataformas de redes sociales se preparan para la inminente ola de deepfakes, el ex 'zar del fraude' de Google predice que el mayor peligro es que los deepfakes terminen por volverse aburridos» . Business Insider . Archivado del original el 14 de abril de 2021. Consultado el 14 de abril de 2021 .

[Vaccari-167] 1 2 3 4 5 Vaccari, Cristian; Chadwick, Andrew (enero de 2020). "Deepfakes y desinformación: explorando el impacto del video político sintético en el engaño, la incertidumbre y la confianza en las noticias" . Social Media + Society . 6 (1): 205630512090340. doi : 10.1177/2056305120903408 . ISSN 2056-3051 . S2CID 214265502 .

[Pawelec-168] 1 2 Pawelec, M (2022). "Deepfakes y democracia (teoría): cómo los medios audiovisuales sintéticos para la desinformación y el discurso de odio amenazan las funciones democráticas básicas" . Sociedad digital: ética, sociolegal y gobernanza de la tecnología digital . 1 (2) 19. doi : 10.1007/s44206-022-00010-6 . PMC 9453721. PMID 36097613 .

[Deepfakes_explained-169] 1 2 3 Somers, Meredith (21 de julio de 2020). "Deepfakes, explicados" . MIT Sloan . Archivado del original el 5 de marzo de 2024. Recuperado el 6 de marzo de 2024 .

[Bateman-2020-170] 1 2 3 Bateman, Jon (2020). "Resumen" . Deepfakes y medios sintéticos en el sistema financiero : 1–2 . Archivado del original el 20 de abril de 2021. Recuperado el 28 de octubre de 2020 .

[171] Kelion, Leo (septiembre de 2020). "Microsoft presenta una herramienta de detección de deepfakes" . BBC News . Archivado del original el 14 de abril de 2021. Consultado el 15 de abril de 2021 .

[172] Cohen, Ariel; Rimon, Inbal; Aflalo, Eran; Permuter, Haim H. (junio de 2022). "Un estudio sobre el aumento de datos en la lucha contra la suplantación de voz". Speech Communication . 141 : 56–67 . arXiv : 2110.10491 . doi : 10.1016/j.specom.2022.04.005 . S2CID 239050551 .

[173] Rimon, Inbal; Gal, Oren; Permuter, Haim (2025). "Desenmascarando deepfakes: aprovechando aumentos y variabilidad de características para la detección de voz deepfake" . Preimpresión de arXiv . arXiv : 2501.05545 .

[174] Rimon, Inbal; Gal, Oren; Permuter, Haim (2026). "Split and Conquer Partial Deepfake Speech" . Preimpresión de arXiv . arXiv : 2604.02913 .

[Manke-2019-175] 1 2 3 Manke, Kara (18 de junio de 2019). "Investigadores utilizan peculiaridades faciales para desenmascarar 'deepfakes'"" . Berkeley News . Archivado del original el 9 de noviembre de 2019 . Consultado el 9 de noviembre de 2019 .

[Hany-176] Farid, Hany (1 de diciembre de 2006). "Doctorado digital: cómo distinguir lo real de lo falso" . Significance . 3 (4): 162– 166. doi : 10.1111/j.1740-9713.2006.00197.x . S2CID 13861938 .

[DDCD-2020-177] "Únete al Desafío de Detección de Deepfakes (DFDC)" . deepfakedetectionchallenge.ai. Archivado del original el 12 de enero de 2020. Consultado el 8 de noviembre de 2019 .

[178] "Resultados del desafío de detección de deepfakes: una iniciativa abierta para impulsar la IA" . ai.facebook.com . Archivado del original el 29 de octubre de 2020. Consultado el 30 de septiembre de 2022 .

[179] Groh, Matthew; Epstein, Ziv; Firestone, Chaz; Picard, Rosalind (2022). "Detección de deepfakes por multitudes humanas, máquinas y multitudes informadas por máquinas" . Actas de la Academia Nacional de Ciencias . 119 (1) e2110013119. arXiv : 2105.06496 . Bibcode : 2022PNAS..11910013G . doi : 10.1073/pnas.2110013119 . PMC 8740705. PMID 34969837 .

[180] Lewis, Andrew; Vu, Patrick; Duch, Raymond M.; Chowdhury, Areeq (noviembre de 2023). "Detección de deepfakes con y sin advertencias de contenido" . Royal Society Open Science . 10 (11) 231214. Bibcode : 2023RSOS...1031214L . doi : 10.1098/rsos.231214 . ISSN 2054-5703 . PMC 10679876. PMID 38026025 .

[Scholar-search-2022a-181] 1 2 "Google Académico" . scholar.google.com . Consultado el 30 de abril de 2022 .

[Scholar-search-2022b-182] 1 2 Masi, Iacopo; Killekar, Aditya; Mascarenhas, Royston Marian; Gurudatt, Shenoy Pratik; Abdalmageed, Wael (2020). Red recurrente de dos ramas para aislar deepfakes en vídeos . Lecture Notes in Computer Science. Vol. 12352. pp. 667–684 . arXiv : 2008.03412 . doi : 10.1007/978-3-030-58571-6_39 . ISBN 978-3-030-58570-9Archivado del original el 10 de junio de 2024. Consultado el 30 de abril de 2022 .

[Wired-2019b-183] 1 2 3 "La solución blockchain a nuestros problemas de deepfake" . Wired . ISSN 1059-1028 . Archivado del original el 7 de noviembre de 2019. Recuperado el 9 de noviembre de 2019 .

[Leetaru-2021-184] 1 2 Leetaru, Kalev. "Por qué las firmas digitales no evitarán las falsificaciones profundas, pero ayudarán a los gobiernos represivos" . Forbes . Archivado del original el 14 de abril de 2021. Recuperado el 17 de febrero de 2021 .

[185] "Para descubrir una videollamada deepfake, pídale a la persona que llama que se ponga de lado" . Metaphysic . 8 de agosto de 2022. Archivado del original el 26 de agosto de 2022. Consultado el 24 de agosto de 2022 .

[186] Helmus, Todd (2022). "Una introducción". Inteligencia artificial, deepfakes y desinformación: una introducción . RAND Corporation . Recuperado el 13 de agosto de 2025 .

[187] Romero-Moreno, Felipe (23 de junio de 2025). "Detección de deepfakes en IA generativa: una propuesta de marco legal para proteger los derechos humanos" . Computer Law & Security Review . 58 106162. doi : 10.1016/j.clsr.2025.106162 .

[Karnouskos_138–147-188] 1 2 3 4 Karnouskos, Stamatis (septiembre de 2020). "Inteligencia artificial en los medios digitales: la era de los deepfakes". IEEE Transactions on Technology and Society . 1 (3): 138– 147. Bibcode : 2020ITTS....1..138K . doi : 10.1109/TTS.2020.3001312 . ISSN 2637-6415 .

[ReferenceB-189] 1 2 3 Turós, Mátyás; Kenyeres, Atila Zoltán; Szűts, Zoltán (septiembre de 2024). "Detección de vídeos falsos entre estudiantes de secundaria: el impacto de los factores socioculturales, de alfabetización mediática y de uso de los medios" . Informes Telemática e Informática . 15 100160. doi : 10.1016/j.teler.2024.100160 .

[190] Ahmed, Saifuddin (mayo de 2023). "Navegando por el laberinto: Deepfakes, capacidad cognitiva y escepticismo ante las noticias en las redes sociales" . New Media & Society . 25 (5): 1108–1129 . doi : 10.1177/14614448211019198 . ISSN 1461-4448 .

[191] Hwang, Yoori; Ryu, Ji Youn; Jeong, Se-Hoon (1 de marzo de 2021). "Efectos de la desinformación mediante deepfake: el efecto protector de la educación en alfabetización mediática" . Cyberpsychology, Behavior, and Social Networking . 24 (3): 188– 193. doi : 10.1089/cyber.2020.0174 . ISSN 2152-2715 . PMID 33646021 .

[192] "El anillo de Kate Middleton desaparece misteriosamente y genera más preocupación sobre la IA" . MSN. 25 de marzo de 2024. Archivado del original el 10 de junio de 2024. Consultado el 19 de mayo de 2024 .

[193] Hindustan Times (5 de abril de 2024) .«La confesión de Kate sobre su cáncer es falsa», afirma Johnathan Perkins, director de la UCLA y seguidor de Meghan Markle, en una teoría conspirativa . The Hindustan Times. Archivado del original el 10 de junio de 2024. Consultado el 19 de mayo de 2024 .

[mh-194] 1 2 3 4 Hameleers, Michael; van der Meer, Toni GLA; Dobber, Tom (febrero de 2024). "¡Nunca dirían algo así! Razones para dudar de los deepfakes políticos" . European Journal of Communication . 39 (1): 56–70 . doi : 10.1177/02673231231184703 . ISSN 0267-3231 .

[195] Salubi, Oghenere (16 de octubre de 2025). «Inteligencia artificial, desinformación y bibliotecas: una nueva frontera para los profesionales de la información» . Actas de la Asociación para la Ciencia y la Tecnología de la Información . 62 : 572–581 . doi : 10.1002/pra2.1279 . Consultado el 4 de noviembre de 2025 .

[td-196] 1 2 3 4 Dobber, Tom; Metoui, Nadia; Trilling, Damian; Helberger, Natali; de Vreese, Claes (enero de 2021). "¿Tienen los deepfakes (microdirigidos) efectos reales en las actitudes políticas?" . The International Journal of Press/Politics . 26 (1): 69– 91. doi : 10.1177/1940161220944364 . ISSN 1940-1612 .

[197] Salvi, Alessandro; Filipova, Raina; Hogeveen, Bryan; Karásková, Ivana; Pawlak, Patryk; Salvi, Andrea (2024). EL ATAQUE DE LOS CLONES: Deepfakes y el panorama cambiante de la desinformación . Instituto de Estudios de Seguridad de la Unión Europea (EUISS). pp. 32–40 . Recuperado el 13 de agosto de 2025 .

[198] "Deepfakes, elecciones y la reducción del dividendo del mentiroso | Brennan Center for Justice" . www.brennancenter.org . 8 de febrero de 2024. Consultado el 10 de diciembre de 2025 .

[AP_News-199] 1 2 "Imágenes generadas por IA del arresto de Trump circulan en redes sociales" . AP News. 21 de marzo de 2023. Archivado del original el 10 de junio de 2024. Consultado el 10 de octubre de 2023 .

[200] Fagan, Kaylee. "Un video viral que parecía mostrar a Obama llamando a Trump 'idiota' revela una nueva tendencia inquietante llamada 'deepfakes'"." . Business Insider . Archivado del original el 22 de septiembre de 2020 . Consultado el 3 de noviembre de 2020 .

[Parkin-2019-201] 1 2 "El auge del deepfake y la amenaza a la democracia" . The Guardian . Archivado del original el 1 de noviembre de 2020. Consultado el 3 de noviembre de 2020 .

[202] "Trump comparte una foto deepfake de sí mismo rezando mientras se difunden en línea imágenes de su arresto generadas por IA" . The Independent . 24 de marzo de 2023. Archivado del original el 28 de mayo de 2023. Consultado el 16 de junio de 2023 .

[203] Towers-Clark, Charles. "Mona Lisa y Nancy Pelosi: las implicaciones de los deepfakes" . Forbes . Archivado del original el 23 de noviembre de 2020. Consultado el 7 de octubre de 2020 .

[204] "¿Cuál es la diferencia entre un deepfake y un shallowfake?" . 21 de abril de 2020. Archivado del original el 26 de junio de 2022. Consultado el 5 de diciembre de 2021 .

[205] "Galería: 'Spectre' se estrena (Comunicado de prensa)" . Bill Posters . 29 de mayo de 2019. Archivado del original el 10 de junio de 2024. Consultado el 15 de mayo de 2024 .

[206] Cole, Samantha (11 de junio de 2019). "Este deepfake de Mark Zuckerberg pone a prueba las políticas de Facebook sobre videos falsos" . Vice . Archivado del original el 10 de junio de 2024. Recuperado el 15 de mayo de 2024 .

[Hao-2020-207] 1 2 3 "Deepfake Putin está aquí para advertir a los estadounidenses sobre su propia perdición" . MIT Technology Review . Archivado del original el 30 de octubre de 2020. Recuperado el 7 de octubre de 2020 .

[NYT1-208] Sonne, Paul (5 de junio de 2023). "Discurso falso de Putin pidiendo ley marcial transmitido en Rusia" . The New York Times . Archivado del original el 10 de junio de 2024. Recuperado el 6 de junio de 2023 .

[209] Allyn, Bobby (16 de marzo de 2022). "Un vídeo deepfake de Zelenskyy podría ser la 'punta del iceberg' en la guerra de la información, advierten los expertos" . NPR . Archivado del original el 29 de marzo de 2022. Recuperado el 17 de marzo de 2022 .

[210] Satariano, Adam; Mozur, Paul (7 de febrero de 2023). "Las personas en pantalla son falsas. La desinformación es real" . The New York Times . Archivado del original el 10 de junio de 2024. Recuperado el 10 de febrero de 2023 .

[211] "El papa Francisco con un deepfake de Balenciaga engaña a millones: 'Definitivamente da miedo'"" . New York Post . 28 de marzo de 2023. Archivado del original el 10 de junio de 2024 . Consultado el 16 de junio de 2023 .

[212] Lu, Donna (31 de marzo de 2023). «Desinformación, errores y el Papa en un saco de dormir: lo que la IA en rápida evolución puede y no puede hacer» . The Guardian . Archivado del original el 10 de junio de 2024. Recuperado el 16 de junio de 2023 .

[213] Murphy, Heather Tal (29 de marzo de 2023). "El Papa con abrigo no es de un lugar sagrado" . Slate . Archivado del original el 10 de junio de 2024. Recuperado el 16 de junio de 2023 .

[214] "Audio deepfake de Sir Keir Starmer publicado el primer día de la conferencia laborista" . Sky News . Consultado el 29 de mayo de 2024 .

[215] «Mujer en video deepfake con el rostro de Rashmika Mandanna rompe el silencio: Estoy profundamente perturbada y molesta por lo que está sucediendo» . The Times of India . 9 de noviembre de 2023. ISSN 0971-8257 . Archivado del original el 23 de noviembre de 2023. Consultado el 23 de noviembre de 2023 .

[216] Cupin, Bea (24 de abril de 2024). "Malacañang denuncia audio deepfake de Marcos ordenando un ataque militar" . Rappler . Archivado del original el 10 de junio de 2024. Recuperado el 14 de mayo de 2024 .

[217] Flores, Helen (27 de abril de 2024) .Se ve a un "actor extranjero" detrás del deepfake de audio del presidente Marcos . The Philippines Star . Archivado del original el 10 de junio de 2024. Consultado el 14 de mayo de 2024 .

[218] Argosino, Faith (14 de mayo de 2024). "Se presentan cargos contra páginas de redes sociales por contenido difamatorio y deepfake de Marcos" . Philippine Daily Inquirer . Archivado del original el 10 de junio de 2024. Recuperado el 14 de mayo de 2024 .

[219] "¿Intercambio de caras? Un detector de deepfakes marca como 'sospechoso' el supuesto vídeo de Marcos."Rappler . 23 de julio de 2024. Consultado el 25 de julio de 2024 .

[220] "Los hallazgos de la NBI y la PNP demuestran que el video del 'polvorón' es falso" . The Philippine Star . 24 de julio de 2024. Consultado el 25 de julio de 2024 .

[221] Shepardson, David (23 de mayo de 2024). "Consultor político estadounidense acusado por llamadas automáticas a favor de Biden generadas por IA" . Reuters .

[222] "Consultor político estadounidense acusado por llamadas automáticas de Biden generadas por IA" . AP News . 23 de mayo de 2024. Archivado del original el 10 de junio de 2024. Consultado el 8 de junio de 2024 .

[223] Magramo, Kathleen (17 de mayo de 2024). "El gigante británico de la ingeniería Arup, víctima de una estafa de deepfake por valor de 25 millones de dólares" . CNN . Consultado el 18 de mayo de 2025 .

[224] Dela Cruz, Ailla (16 de junio de 2025). "Verificación de hechos: el video de estudiantes que se oponen al juicio político de Sara Duterte es generado por IA" . Rappler . Recuperado el 17 de junio de 2025 .

[225] Cabato, Luisa (16 de junio de 2025). "Dela Rosa ridiculizada por video de IA sobre el juicio político a Sara Duterte" . Philippine Daily Inquirer . Consultado el 17 de junio de 2025 .

[226] Magsambol, Bonz (16 de junio de 2025). "Sara Duterte: No hay nada de malo en compartir un video de IA que se opone a mi juicio político" . Rappler . Recuperado el 17 de junio de 2025 .

[227] Liggett, Jake (22 de octubre de 2025) .Un candidato presidencial condena un vídeo manipulado con IA de gran tamaño, calificado de "vergonzoso" . BBC News NI . Consultado el 18 de enero de 2026 .

[228] Haeck, Pieter (22 de octubre de 2025). "Vídeo deepfake de un candidato presidencial irlandés sacude su campaña" . Politico Europe . Consultado el 18 de enero de 2026 .

[229] Price, Rob (27 de enero de 2018). "Discord acaba de cerrar un grupo de chat dedicado a compartir vídeos pornográficos editados con IA para incluir a famosos" . Business Insider Australia . Archivado del original el 15 de diciembre de 2019. Consultado el 28 de noviembre de 2019 .

[Ghoshal-2018-230] 1 2 Ghoshal, Abhimanyu (7 de febrero de 2018). "Twitter, Pornhub y otras plataformas prohíben la pornografía de celebridades generada por IA" . The Next Web . Archivado del original el 20 de diciembre de 2019. Recuperado el 9 de noviembre de 2019 .

[231] "Twitter prohíbe la pornografía generada por IA mediante 'deepfake'" . Engadget . 20 de julio de 2019. Archivado del original el 15 de diciembre de 2019. Consultado el 28 de noviembre de 2019 .

[Cole-2018e-232] Cole, Samantha (31 de enero de 2018). "Creadores de pornografía falsa generada por IA han sido expulsados de su plataforma favorita" . Vice . Archivado del original el 1 de noviembre de 2019. Recuperado el 18 de noviembre de 2019 .

[233] Böhm, Markus (7 de febrero de 2018). ""Deepfakes": Firmen gehen gegen gefälschte Promi-Pornos vor" . Spiegel Online . Archivado desde el original el 23 de septiembre de 2019. Consultado el 9 de noviembre de 2019 .

[234] Robertson, Adi (7 de febrero de 2018). "Reddit prohíbe las comunidades de pornografía con IA 'deepfakes'" . The Verge . Archivado del original el 24 de septiembre de 2019. Recuperado el 9 de noviembre de 2019 .

[Cole-2018c-235] 1 2 Cole, Samantha (6 de febrero de 2018). "Pornhub prohíbe los vídeos pornográficos falsos generados por IA, dice que no son consensuales" . Vice . Archivado del original el 1 de noviembre de 2019. Recuperado el 9 de noviembre de 2019 .

[236] Beres, Damon; Gilmer, Marcus (2 de febrero de 2018). "Una guía sobre los 'deepfakes', la última crisis moral de internet" . Mashable . Archivado del original el 9 de diciembre de 2019. Recuperado el 9 de noviembre de 2019 .

[Fake-porn_videos_are_being_weaponized_to_harass_and_humiliate_women:_'Everybody_is_a_potential_target'-237] 1 2 Harrell, Drew (30 de diciembre de 2018). "Los vídeos pornográficos falsos se están utilizando como arma para acosar y humillar a las mujeres: 'Todo el mundo es un objetivo potencial'"" . The Washington Post . Archivado del original el 2 de enero de 2019 . Consultado el 1 de enero de 2019 .

[238] Anderson, Martin (2022). Google ha prohibido el entrenamiento de deepfakes en Colab. Archivado el 30 de mayo de 2022 en Wayback Machine , Unite.ai, 28 de mayo de 2022.

[239] Maiberg, Emanuel (2022). Se necesitan 2 clics para pasar de 'Deep Tom Cruise' a pornografía deepfake repugnante , VICE, 17 de mayo de 2022

[Jee-2019-240] 1 2 "Facebook ha prometido dejar publicado un vídeo deepfake de Mark Zuckerberg" . MIT Technology Review . Archivado del original el 16 de octubre de 2019. Consultado el 9 de noviembre de 2019 .

[Cole-2019b-241] Cole, Samantha (11 de junio de 2019). "Este deepfake de Mark Zuckerberg pone a prueba las políticas de Facebook sobre videos falsos" . Vice . Archivado del original el 12 de octubre de 2019. Recuperado el 9 de noviembre de 2019 .

[Ferrer-2020-242] 1 2 "Resultados del desafío de detección de deepfakes: una iniciativa abierta para impulsar la IA" . ai.facebook.com . Archivado del original el 29 de octubre de 2020. Recuperado el 7 de octubre de 2020 .

[Paul-2020-243] 1 2 Paul, Katie (4 de febrero de 2020). "Twitter etiquetará los deepfakes y otros medios engañosos" . Reuters . Archivado del original el 10 de octubre de 2020. Recuperado el 7 de octubre de 2020 .

[Cole-2018a-244] Cole, Samantha (6 de febrero de 2018). "Twitter es la última plataforma en prohibir la pornografía generada por IA" . Vice . Archivado del original el 1 de noviembre de 2019. Recuperado el 8 de noviembre de 2019 .

[blog.twitter-2020-245] "Ayúdanos a definir nuestro enfoque sobre los medios sintéticos y manipulados" . blog.twitter.com . Archivado del original el 28 de octubre de 2020. Consultado el 7 de octubre de 2020 .

[246] "Twitter elabora una política sobre deepfakes que etiquetaría y advertiría, pero no siempre eliminaría, el contenido manipulado" . TechCrunch . 11 de noviembre de 2019. Archivado del original el 14 de julio de 2021. Consultado el 7 de octubre de 2020 .

[247] Cinco estados de EE. UU. presionan a Musk para que corrija el chatbot de IA por la desinformación electoral. Reuters consultó el 19 de agosto de 2024.

[248] Imágenes nocivas se difunden después de que Elon Musk lanzara una herramienta de IA con pocas medidas de seguridad. The Washington Post, consultado el 19 de agosto de 2024.

[249] Cómo Elon Musk y X se convirtieron en los mayores difusores de desinformación en línea. Rolling Stone, consultado el 19 de agosto de 2024.

[250] Sasse, Ben (21 de diciembre de 2018). "S. 3805–115.º Congreso (2017-2018): Ley de prohibición de deepfakes maliciosos de 2018" . www.congress.gov . Archivado del original el 16 de octubre de 2019. Consultado el 16 de octubre de 2019 .

[Clarke-2019-251] Clarke, Yvette D. (28 de junio de 2019). "HR3230 - 116.º Congreso (2019-2020): Ley de 2019 para defender a todas y cada una de las personas de las apariencias falsas mediante la rendición de cuentas en casos de explotación" . www.congress.gov . Archivado del original el 17 de diciembre de 2019. Consultado el 16 de octubre de 2019 .

[252] "Tendencias de verificación de identidad digital 2025" . www.zyphe.com . 28 de junio de 2025. Consultado el 11 de agosto de 2025 .

[253] "La pornografía de venganza "deepfake" ahora es ilegal en Virginia . TechCrunch . Julio de 2019. Archivado del original el 14 de julio de 2021. Consultado el 16 de octubre de 2019 .

[254] Iacono Brown, Nina (15 de julio de 2019). "El Congreso quiere resolver el problema de los deepfakes para 2020. Eso debería preocuparnos" . Revista Slate . Archivado del original el 16 de octubre de 2019. Recuperado el 16 de octubre de 2019 .

[AB602-255] 1 2 "Texto del proyecto de ley - AB-602 Representación de un individuo mediante tecnología digital o electrónica: material sexualmente explícito: causa de acción" . leginfo.legislature.ca.gov . Archivado del original el 17 de noviembre de 2019. Recuperado el 9 de noviembre de 2019 .

[AB730-256] 1 2 "Texto del proyecto de ley - AB-730 Elecciones: medios audiovisuales engañosos" . leginfo.legislature.ca.gov . Archivado del original el 31 de octubre de 2019. Consultado el 9 de noviembre de 2019 .

[257] HR 5586: Ley de Responsabilidad por DEEPFAKES Govtrack.US consultado el 15 de agosto de 2024.

[258] HR 6943: Ley contra el fraude en IA. Govtrack.US consultado el 15 de agosto de 2024.

[259] Hatmaker, Taylor (1 de mayo de 2018). "DARPA está financiando nueva tecnología que puede identificar vídeos manipulados y 'deepfakes'"." . TechCrunch . Archivado del original el 8 de diciembre de 2023 . Consultado el 14 de abril de 2024 .

[260] Hsu, Jeremy (22 de junio de 2018). "Expertos apuestan por el primer escándalo político de deepfakes - IEEE Spectrum" . IEEE . Archivado del original el 22 de febrero de 2024. Recuperado el 14 de abril de 2024 .

[Corvey-2020-261] "Análisis forense de medios" . www.darpa.mil . Archivado del original el 29 de octubre de 2020. Consultado el 7 de octubre de 2020 .

[262] "El ejército estadounidense está financiando un esfuerzo para detectar deepfakes y otros engaños de IA" . MIT Technology Review . Archivado del original el 1 de noviembre de 2020. Consultado el 7 de octubre de 2020 .

[263] Collins, Connor (11 de marzo de 2019). "DARPA combate los deepfakes con IA" . GovCIO Media & Research . Archivado del original el 2 de marzo de 2024. Recuperado el 14 de abril de 2024 .

[Corrigan-2019-264] 1 2 "DARPA aborda el problema de los deepfakes" . Nextgov.com . 6 de agosto de 2019. Archivado del original el 28 de octubre de 2020. Consultado el 7 de octubre de 2020 .

[265] Sybert, Sarah (16 de septiembre de 2021). "DARPA lanza nuevos programas para detectar medios falsificados" . GovCIO Media & Research . Archivado del original el 10 de junio de 2024. Recuperado el 14 de abril de 2024 .

[266] Cooper, Naomi (15 de marzo de 2024). "DARPA lanza dos nuevas iniciativas para reforzar las defensas contra los medios manipulados" . Archivado del original el 15 de marzo de 2024. Consultado el 14 de abril de 2024 .

[267] "Análisis forense semántico - Catálogo analítico" . semanticforensics.com . Archivado del original el 18 de abril de 2024. Consultado el 14 de abril de 2024 .

[268] Academias Nacionales de Ciencias, Ingeniería y Medicina (22 de junio de 2023). "La Cumbre del Premio Nobel impulsa iniciativas para combatir la desinformación y generar confianza en la ciencia" . Academias Nacionales de Ciencias, Ingeniería y Medicina . Wikidata Q124711722 .

[ 2 ]

[ 3 ]

[ 4 ]

[ 5 ]

[ 6 ]

[ 7 ]

[ 8 ]

[ 9 ]

[ 10 ]

[ 11 ]

[ 12 ]

[ 13 ]

[ 14 ]

[ 15 ]

[ 16 ]

[ 17 ]

[ 18 ]

[ 19 ]

[ 20 ]

[ 21 ]

[ 22 ]

[ 23 ]

[ 24 ]

[ 25 ]

[ 26 ]

[ 27 ]

[ 28 ]

[ 29 ]

[ 30 ]

[ 31 ]

[

[ 33 ]

[ 34 ]

[ 35 ]

[ 36 ]

[ 37 ]

[ 38 ]

[ 39 ]

[ 40 ]

[ 41 ]

[ 42 ]

[ 43 ]

[ 44 ]

[ 45 ]

[ 46 ]

[ 47 ]

[ 48 ]

[ 49 ]

[ 50 ]

[ 51 ]

[ 52 ]

[ 53 ]

[ 54 ]

[ 55 ]

[ 56 ]

[ 57 ]

[ 58 ]

[ 59 ]

[ 60 ]

[ 61 ]

[ 62 ]

[ 63 ]

[ 64 ]

[ 65 ]

[ 66 ]

[ 67 ]

[ 68 ]

[ 69 ]

[ 70 ]

[ 71 ]

[ 72 ]

[ 73 ]

[ 74 ]

[ 75 ]

[

[

[ 78 ]

[ 79 ]

[ 80 ]

[ 81 ]

[ 82 ]

[ 83 ]

[ 84 ]

[ 85 ]

[

[

[

[

[ 90 ]

[ 91 ]

[

[

[

[ 95 ]

[ 97 ]

[ 102 ]

[ 103 ]

[ 105 ]

[ 106 ]

[ 109 ]

Historia

Investigación académica

Enfoques de las ciencias sociales y las humanidades sobre los deepfakes

Investigación en ciencias de la computación sobre deepfakes

Desarrollo amateur

Desarrollo comercial

Resurrección

Técnicas

Aplicaciones

Interino

Arte

Chantaje

Entretenimiento

Fraudes y estafas

Política

Pornografía

redes sociales

Marionetas de calcetín

Preocupaciones y contramedidas

Credibilidad de la información

Difamación

Detección

Audio

Video

Detección y regulación de deepfakes

Prevención

Alfabetización mediática y deepfakes

Controversias

Política

Dividendo del mentiroso

Eventos de ejemplo

Respuestas

Plataformas de redes sociales

Legislación

Respuesta de DARPA

Panel Internacional sobre el Entorno de la Información

Véase también

Referencias

Lecturas adicionales

Enlaces externos

Articulos relacionados