Hispanopedia Wiki
Articulo de referencia

FotoADN

PhotoDNA es una tecnología patentada de identificación de imágenes y filtrado de contenido [1] ampliamente utilizada por proveedores de servicios en línea . [2] [3] Historia Pho...

Hispanopedia WikiContenido en espanolLectura gratuita

PhotoDNA es una tecnología patentada de identificación de imágenes y filtrado de contenido [1] ampliamente utilizada por proveedores de servicios en línea . [2] [3]

Historia

PhotoDNA fue desarrollado por Microsoft Research y Hany Farid , profesor del Dartmouth College , a principios de 2009. A partir de una base de datos de imágenes y archivos de vídeo conocidos, crea hashes únicos para representar cada imagen, que luego se pueden usar para identificar otras instancias de esas imágenes. [4]

El método de hash inicialmente se basaba en convertir imágenes a un formato en blanco y negro, dividirlas en cuadrados y cuantificar el sombreado de los cuadrados, [5] no empleaba tecnología de reconocimiento facial, ni podía identificar a una persona u objeto en la imagen. [ cita requerida ] El método buscaba ser resistente a alteraciones en la imagen, incluido el cambio de tamaño y pequeñas alteraciones de color. [4] Desde 2015, [6] se utilizan métodos similares para fotogramas de vídeo individuales en archivos de vídeo. [7]

Microsoft donó [ verificación fallida ] la tecnología PhotoDNA al Proyecto VIC , administrado y apoyado por el Centro Internacional para Niños Desaparecidos y Explotados (ICMEC) y utilizado como parte de operaciones forenses digitales [8] [9] mediante el almacenamiento de "huellas digitales" que pueden usarse para identificar de forma única una foto individual. [9] [10] La base de datos incluye hashes para millones de elementos. [11]

En diciembre de 2014, Microsoft puso PhotoDNA a disposición de organizaciones calificadas en un modelo de software como servicio de forma gratuita a través de Azure Marketplace . [12]

En las décadas de 2010 y 2020, PhotoDNA se presentó en relación con propuestas de políticas relacionadas con la moderación de contenidos y la censura en Internet , [13] incluidas las audiencias del Senado de Estados Unidos (2019 sobre "responsabilidad digital", [2] 2022 sobre la Ley EARN IT [14] ) y varias propuestas de la Comisión Europea denominadas " filtros de carga " por la sociedad civil [15] [16] como los llamados códigos voluntarios (en 2016 [17] sobre el discurso de odio [18] después de los acontecimientos de 2015 , 2018 [19] y 2022 [20] sobre la desinformación), la legislación sobre derechos de autor (principalmente la directiva de derechos de autor de 2019 debatida entre 2014 [21] y 2021 [22] ), las regulaciones relacionadas con el terrorismo (TERREG) [23] y las regulaciones sobre escuchas telefónicas en Internet (2021 "control del chat"). [24]

En 2016, Hany Farid propuso extender el uso de la tecnología al contenido relacionado con el terrorismo . [25] En diciembre de 2016, Facebook, Twitter, Google y Microsoft anunciaron planes para utilizar PhotoDNA para eliminar contenido extremista, como videos de reclutamiento de terroristas o imágenes terroristas violentas. [26] En 2018, Facebook declaró que PhotoDNA se utilizaba para eliminar automáticamente los videos de Al Qaeda . [13]

En 2019, las grandes empresas tecnológicas , entre ellas Microsoft, Facebook y Google, anunciaron públicamente que desde 2017 utilizaban GIFCT como una base de datos compartida de contenido que se censuraría automáticamente. [2] En 2021, se pensaba que Apple estaba utilizando NeuralHash para fines similares. [27]

En 2022, The New York Times cubrió la historia de dos padres cuyas cuentas de Google fueron cerradas después de que las fotos que tomaron de su hijo con fines médicos se cargaran automáticamente en los servidores de Google. [28] El artículo compara PhotoDNA, que requiere una base de datos de hashes conocidos, con la tecnología basada en inteligencia artificial de Google, que puede reconocer imágenes explotadoras nunca antes vistas. [29] [30]

Uso

Microsoft utilizó originalmente PhotoDNA en sus propios servicios, incluidos Bing y OneDrive . [31] A partir de 2022, PhotoDNA fue ampliamente utilizado por los proveedores de servicios en línea para sus esfuerzos de moderación de contenido [10] [32] [33] incluidos Gmail de Google , Twitter , [34] Facebook , [35] Adobe Systems , [36] Reddit , [37] y Discord . [38]

Según se informa, la Fundación Internet Watch del Reino Unido , que ha estado compilando una base de datos de referencia de firmas de PhotoDNA, tenía más de 300.000 hashes de materiales conocidos de explotación sexual infantil. [ cita requerida ] Otra fuente de la base de datos fue el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC). [39] [40]

PhotoDNA se utiliza ampliamente para eliminar contenido, [2] deshabilitar cuentas y denunciar personas. [7]

Invirtiendo

En 2021, Anish Athalye pudo invertir parcialmente los hashes de PhotoDNA con una red neuronal, lo que genera inquietudes sobre la reversibilidad de un hash de PhotoDNA. [41]

Véase también

Referencias

  1. ^ Douze, Matthijs; Tolias, Giorgos; Pizzi, Ed; Papakipos, Zoë; Chanussot, Lowik; Radenovic, Filip; Jenicek, Tomas; Maximov, Maxim; Leal-Taixé, Laura; Elezi, Ismail; Chum, Ondřej; Ferrer, Cristian Canton (21 de febrero de 2022). "El conjunto de datos y el desafío de similitud de imágenes de 2021". arXiv : 2106.09672 [cs.CV]. Las huellas dactilares de imágenes, como PhotoDNA de Microsoft, se utilizan en toda la industria para identificar imágenes que representan la explotación y el abuso infantil.
  2. ^ abcd "El auge de los cárteles de contenido". knightcolumbia.org . 11 de febrero de 2020 . Consultado el 21 de agosto de 2022 .
  3. ^ Hill, Kashmir (21 de agosto de 2022). "Un padre tomó fotografías de su hijo pequeño desnudo para el médico. Google lo marcó como un criminal". The New York Times . ISSN  0362-4331 . Consultado el 21 de agosto de 2022 .
  4. ^ ab "Nueva tecnología lucha contra la pornografía infantil rastreando su "PhotoDNA"". Microsoft Corporation. 15 de diciembre de 2009. Consultado el 9 de septiembre de 2016 .
  5. ^ "Photo DNA: Paso a paso". Microsoft. Archivado desde el original el 21 de septiembre de 2013. Consultado el 11 de febrero de 2014 .
  6. ^ "Cómo se utiliza PhotoDNA for Video para combatir la explotación infantil en línea". 12 de septiembre de 2018.
  7. ^ ab "Cómo se utiliza PhotoDNA for Video para combatir la explotación infantil en línea". news.microsoft.com. 12 de septiembre de 2018.
  8. ^ Jackson, William (27 de agosto de 2014). "Las herramientas de análisis de imágenes mejoradas aceleran los casos de niños explotados". GCN.
  9. ^ ab Clark, Liat (30 de abril de 2014). "Tecnología de rastreo de abuso infantil donada al mundo". Wired UK .
  10. ^ ab "Respuesta de Microsoft a la consulta sobre la Comunicación de la Comisión Europea sobre los Derechos del Niño (2011-2014)" (PDF) . Archivado desde el original (PDF) el 24 de octubre de 2017., Comisión Europea
  11. ^ Ward, Mark (23 de marzo de 2014). "Una herramienta de archivo basada en la nube para ayudar a atrapar a los abusadores de menores". BBC News .
  12. ^ "PhotoDNA Cloud Service". Microsoft.com . Microsoft Corporation . Consultado el 19 de febrero de 2015 .
  13. ^ por Richard Allan (18 de junio de 2018). "Audiencia a las 11:14".en "El marco regulatorio horizontal de la UE para la eliminación ilegal de contenidos en el DSM".
  14. ^ Jue; Szoka, 10 de febrero de 2022 15:30 h - Berin; Cohn, Ari (10 de febrero de 2022). "Los diez principales errores que cometieron los senadores durante el aumento de precio de EARN IT de hoy". Techdirt . Consultado el 21 de agosto de 2022 .{{cite web}}: CS1 maint: nombres numéricos: lista de autores ( enlace )
  15. ^ Schmon, Christoph (3 de junio de 2021). «La negativa de la Comisión Europea a abandonar los filtros». Electronic Frontier Foundation . Consultado el 21 de agosto de 2022 .
  16. ^ "Filtros de subida de archivos: ¿un peligro para los contenidos gratuitos de Internet?". IONOS Digitalguide . 28 de marzo de 2019 . Consultado el 21 de agosto de 2022 .
  17. ^ "Lucha contra el discurso de odio ilegal en línea: primera evaluación del nuevo código de conducta". ec.europa.eu . 6 de diciembre de 2016 . Consultado el 21 de agosto de 2022 .
  18. ^ "Código de conducta de la UE para combatir el discurso de odio ilegal en línea | Comisión Europea". Ec.europa.eu . Consultado el 29 de agosto de 2022 .
  19. ^ "Código de buenas prácticas sobre desinformación | Dando forma al futuro digital de Europa". 26 de septiembre de 2018.
  20. ^ "El Código de buenas prácticas sobre desinformación de 2022 | Dando forma al futuro digital de Europa". 24 de marzo de 2023.
  21. ^ "Expediente de procedimiento: 2014/2256(INI) | Observatorio Legislativo | Parlamento Europeo".
  22. ^ COMUNICACIÓN DE LA COMISIÓN AL PARLAMENTO EUROPEO Y AL CONSEJO Orientaciones sobre el artículo 17 de la Directiva 2019/790 sobre derechos de autor en el mercado único digital
  23. ^ "Contenido terrorista en línea".
  24. ^ Reuter, Markus; Rudl, Tomas; Rau, Franziska; Hildebr, Holly. "Por qué el control del chat es tan peligroso". European Digital Rights (EDRi) . Consultado el 21 de agosto de 2022 .
  25. ^ Waddell, Kaveh (22 de junio de 2016). "Una herramienta para eliminar vídeos de decapitaciones antes de que aparezcan en Internet". The Atlantic . Consultado el 10 de septiembre de 2016 .
  26. ^ "Alianza para ayudar a frenar la propagación de contenido terrorista en línea | Sala de prensa de Facebook" . Consultado el 6 de diciembre de 2016 .
  27. ^ Abelson, Hal; Anderson, Ross; Bellovin, Steven M.; Benaloh, Josh; Blaze, Matt; Callas, Jon; Diffie, Whitfield; Landau, Susan; Neumann, Peter G.; Rivest, Ronald L.; Schiller, Jeffrey I.; Schneier, Bruce; Teague, Vanessa; Troncoso, Carmela (2024). "Errores en nuestros bolsillos: los riesgos del escaneo del lado del cliente". Revista de ciberseguridad . 10 . arXiv : 2110.07450 . doi :10.1093/cybsec/tyad020.
  28. ^ Hill, Kashmir (21 de agosto de 2022). "Un padre tomó fotos de su hijo pequeño desnudo para el médico. Google lo marcó como un criminal". The New York Times . ISSN  0362-4331 . Consultado el 21 de agosto de 2022 . Un avance mayor se produjo casi una década después, en 2018, cuando Google desarrolló una herramienta de inteligencia artificial que podía reconocer imágenes de niños explotadores nunca antes vistas. [...] Cuando las fotos de Mark y Cassio se cargaron automáticamente desde sus teléfonos a los servidores de Google, esta tecnología las marcó.
  29. ^ "Google marcó como abuso sexual las fotos de niños enfermos tomadas por padres". Gizmodo . 22 de agosto de 2022 . Consultado el 28 de agosto de 2022 . Según Google, esos informes de incidentes provienen de múltiples fuentes, no se limitan a la herramienta automatizada PhotoDNA.
  30. ^ Roth, Emma (21 de agosto de 2022). "Google AI marcó las cuentas de los padres por posible abuso por fotos desnudas de sus hijos enfermos". The Verge . Consultado el 28 de agosto de 2022 . Google ha utilizado la comparación de hash con PhotoDNA de Microsoft para escanear imágenes cargadas para detectar coincidencias con CSAM conocido. [...] En 2018, Google anunció el lanzamiento de su kit de herramientas de inteligencia artificial Content Safety API que puede "identificar de forma proactiva imágenes de CSAM nunca antes vistas para que puedan revisarse y, si se confirma que son CSAM, eliminarse y denunciarse lo antes posible". Utiliza la herramienta para sus propios servicios y, junto con una solución de comparación de hash CSAI Match dirigida a videos desarrollada por ingenieros de YouTube, también la ofrece para que la utilicen otros.
  31. ^ "Verdades desafortunadas sobre la pornografía infantil e Internet [Artículo]". 7 de diciembre de 2012.
  32. ^ Eher, Reinhard; Craig, Leam A.; Miner, Michael H.; Pfäfflin, Friedemann (2011). Perspectivas internacionales sobre la evaluación y el tratamiento de los delincuentes sexuales: teoría, práctica e investigación. John Wiley & Sons. pág. 514. ISBN 978-1119996200.
  33. ^ Lattanzi-Licht, Marcia; Doka, Kenneth (2004). Vivir con el duelo: cómo afrontar la tragedia pública. Routledge. pág. 317. ISBN 1135941513.
  34. ^ Arthur, Charles (22 de julio de 2013). "Twitter presentará el sistema PhotoDNA para bloquear imágenes de abuso infantil". The Guardian . Consultado el 22 de julio de 2013 .
  35. ^ Smith, Catharine (2 de mayo de 2011). "Facebook adopta Microsoft PhotoDNA para eliminar la pornografía infantil". Huffington Post . Consultado el 22 de julio de 2013 .
  36. ^ "Adobe & PhotoDNA". www.adobe.com . Consultado el 27 de agosto de 2021 .
  37. ^ "Reddit usa PhotoDNA para prevenir la pornografía infantil". 19 de marzo de 2020.
  38. ^ "Informe de transparencia de Discord: julio - diciembre de 2020". Blog de Discord . 2 de abril de 2021 . Consultado el 8 de mayo de 2022 .
  39. ^ "La policía arrestó a un hombre por unas imágenes de abuso infantil gracias a un aviso de Microsoft". The Guardian . 7 de agosto de 2014.
  40. ^ Salcito, Anthony (17 de diciembre de 2009). «Microsoft dona tecnología PhotoDNA para hacer que Internet sea más segura para los niños» . Consultado el 22 de julio de 2013 .
  41. ^ Athalye, Anish (20 de diciembre de 2021). "Inversión de PhotoDNA".
  • Sitio web oficial
Obtenido de "https://es.wikipedia.org/w/index.php?title=PhotoDNA&oldid=1224210851"