Hispanopedia Wiki
Articulo de referencia

Algoritmos de opresión

Algoritmos de opresión: cómo los motores de búsqueda refuerzan el racismo es un libro de 2018 de Safiya Umoja Noble en los campos de la ciencia de la información , el aprendizaj...

Hispanopedia WikiContenido en espanolLectura gratuita

Algoritmos de opresión: cómo los motores de búsqueda refuerzan el racismo es un libro de 2018 de Safiya Umoja Noble en los campos de la ciencia de la información , el aprendizaje automático y la interacción persona-computadora . [ 1 ] [ 2 ] [ 3 ] [ 4 ]

Fondo

Noble obtuvo una licenciatura en sociología de la Universidad Estatal de California, Fresno en la década de 1990, luego trabajó en publicidad y marketing durante quince años antes de ir a la Universidad de Illinois Urbana-Champaign para obtener una maestría en Bibliotecología y Ciencias de la Información a principios de la década de 2000. [ 5 ] La primera inspiración del libro llegó en 2011, cuando Noble buscó en Google la frase "chicas negras" y vio resultados de pornografía en la primera página. [ 5 ] La tesis doctoral de Noble, completada en 2012, se tituló Buscando chicas negras: viejas tradiciones en nuevos medios . [ 6 ] [ 7 ] En ese momento, Noble pensó en el título "Algoritmos de opresión" para el libro que finalmente publicaría. [ 8 ] Noble se convirtió en profesora asistente en la Universidad de California, Los Ángeles en 2014. [ 9 ] En 2017, publicó un artículo sobre el sesgo racista y sexista en los motores de búsqueda en The Chronicle of Higher Education . [ 9 ] [ 10 ] El libro fue publicado por New York University Press el 20 de febrero de 2018. [ 11 ] Para entonces, los cambios en el algoritmo de Google habían modificado los resultados más comunes para una búsqueda de "chicas negras", aunque los sesgos subyacentes siguen siendo influyentes. [ 12 ]

Descripción general

Algoritmos de opresión aborda la relación entre los motores de búsqueda y los sesgos discriminatorios. Adopta un enfoque feminista interseccional negro . El feminismo interseccional tiene en cuenta las experiencias de mujeres de diferentes razas y sexualidades al hablar de la opresión de las mujeres. [ 13 ] Noble argumenta que los algoritmos de búsqueda son racistas y perpetúan los problemas sociales porque reflejan los sesgos negativos que existen en la sociedad y las personas que los crean. [ 14 ] [ 15 ] [ 16 ] Noble rechaza la idea de que los motores de búsqueda sean inherentemente neutrales, explicando cómo los algoritmos en los motores de búsqueda privilegian la blancura al mostrar señales positivas cuando se buscan palabras clave como "blanco" en lugar de "asiático", "hispano" o "negro". Su ejemplo principal gira en torno a los resultados de búsqueda de "chicas negras" versus "chicas blancas" y los sesgos que se muestran en los resultados. [ 17 ]

Sinopsis

El capítulo 1 explora cómo la función de sugerencias automáticas de la búsqueda de Google resulta desmoralizante, analizando ejemplos de búsquedas con términos como "chicas negras" (que arrojaron pornografía) y "judío" (que arrojaron páginas antisemitas ). Noble acuña el término "opresión algorítmica" para describir las fallas de datos específicas de las personas de color, las mujeres y otros grupos marginados. Explica cómo Google podría utilizar la curación humana para eliminar insultos o imágenes inapropiadas de la primera página de resultados y critica la política de Google que permite que, a menos que las páginas sean ilegales, su algoritmo actúe sin curación humana. Identifica a AdWords como un uso hipócrita de la curación para promover intereses comerciales, ya que permite a los anunciantes pagar para que temas controvertidos o menos relevantes aparezcan por encima de las selecciones del algoritmo. [ 18 ]

El capítulo 2 examina las afirmaciones de Google de que no se responsabiliza del contenido de los resultados de búsqueda, culpando en cambio a los creadores de contenido y a los usuarios. Noble destaca aspectos del algoritmo que normalizan la blancura y la masculinidad. Argumenta que Google se escuda en su algoritmo, mientras refuerza las desigualdades sociales y los estereotipos sobre las mujeres negras, latinas y asiáticas.

El capítulo 3 analiza cómo el motor de búsqueda de Google combina múltiples fuentes para crear narrativas amenazantes sobre las minorías. Explica un estudio de caso en el que buscó "crímenes de negros contra blancos" en Google . [ 19 ] Noble destaca que las fuentes e información encontradas tras la búsqueda apuntaban a fuentes conservadoras que distorsionaban la información. Estas fuentes mostraban información racista y anti-negra proveniente de supremacistas blancos . En última instancia, cree que esta información falsa y fácilmente accesible impulsó las acciones del supremacista blanco Dylann Roof , quien cometió una masacre.

El capítulo 4 examina ejemplos de mujeres que han sido estigmatizadas debido a su actividad en la industria pornográfica, independientemente de si fue consensuada o no. Critica la capacidad de internet para influir en el futuro de las personas y compara las leyes de privacidad de EE. UU. con las de la Unión Europea, que otorgan a los ciudadanos "el derecho a olvidar o ser olvidado". [ 20 ] Argumenta que estas violaciones de la privacidad afectan de manera desproporcionada a las mujeres y a las personas de color.

El capítulo 5 se aleja de Google y se centra en otras fuentes de información consideradas creíbles y neutrales. Noble afirma que bibliotecas prominentes, incluida la Biblioteca del Congreso , refuerzan hegemonías como la supremacía blanca, la heteronormatividad y el patriarcado . Como ejemplo, analiza un esfuerzo de dos años para cambiar la terminología del catálogo de la Biblioteca del Congreso de "extranjeros ilegales" a "no ciudadanos" o "inmigrantes no autorizados". [ 18 ] Noble sostiene que todos los motores de búsqueda digitales refuerzan los sesgos discriminatorios, lo que pone de manifiesto la interconexión entre la tecnología y la sociedad. [ 21 ]

El capítulo 6 analiza posibles soluciones al problema del sesgo algorítmico . La autora insiste en que los gobiernos y las corporaciones tienen la mayor responsabilidad de reformar sus problemas sistémicos y rechaza el argumento neoliberal de que los sesgos algorítmicos desaparecerán si más mujeres y minorías raciales se incorporan al sector como ingenieras de software . Critica una mentalidad que denomina " optimismo de los macrodatos ", es decir, la idea de que las grandes instituciones resuelven las desigualdades. Argumenta que las políticas implementadas por los gobiernos locales y federales podrían reducir el "monopolio informativo" de Google y regular la forma en que los motores de búsqueda filtran sus resultados. Para ilustrar este punto, utiliza el ejemplo de una peluquera negra cuyo negocio se enfrenta a reveses porque el sitio de reseñas Yelp ha utilizado prácticas publicitarias y estrategias de búsqueda sesgadas en su contra. Cierra el capítulo haciendo un llamamiento a la Comisión Federal de Comunicaciones (FCC) y a la Comisión Federal de Comercio (FTC) para que "regulen la decencia", es decir, para que limiten la cantidad de retórica racista , homófoba o prejuiciosa en Internet. Insta al público a rechazar las ideologías " ciegas al color " en lo que respecta a la raza, argumentando que estas borran las luchas que enfrentan las minorías raciales.

La conclusión sintetiza los capítulos anteriores y cuestiona la idea de que internet sea un entorno plenamente democrático o postracial.

Recepción crítica

La recepción crítica de Algorithms of Oppression ha sido mayoritariamente positiva. En Los Angeles Review of Books , Emily Drabinski escribe: «Lo que se desprende de estas páginas es la sensación de que los algoritmos de opresión de Google constituyen solo una de las infraestructuras ocultas que rigen nuestra vida cotidiana, y que las demás probablemente estén tan profundamente arraigadas en la supremacía blanca y la misoginia como la que explora Noble». [ 22 ] En PopMatters , Hans Rollman escribe que Algorithms of Oppression «demuestra que los motores de búsqueda, y en particular Google , no son simplemente máquinas imperfectas, sino sistemas diseñados por humanos de forma que replican las estructuras de poder de los países occidentales donde se construyen, con todo el sexismo y el racismo inherentes a dichas estructuras». [ 1 ] En Booklist , la crítica Lesley Williams afirma: «El estudio de Noble debería invitarnos a reflexionar profundamente sobre nuestra dependencia de los motores de búsqueda comerciales y sobre la equidad social digital». [ 23 ]

A principios de febrero de 2018, Algorithms of Oppression recibió atención de la prensa cuando la cuenta oficial de Twitter del Instituto de Ingenieros Eléctricos y Electrónicos (IEEE) expresó críticas al libro, afirmando que los resultados de una búsqueda en Google sugerida en su contraportada no coincidían con las predicciones de Noble. El historiador de divulgación del IEEE, Alexander Magoun, reveló posteriormente que no había leído el libro y emitió una disculpa. [ 15 ]

Véase también

Referencias

  1. 1 2 "¡No lo busques en Google! Cómo los motores de búsqueda refuerzan el racismo" . PopMatters . 30 de enero de 2018. Consultado el 24 de marzo de 2018 .
  2. ↑ Fine, Cordelia (7 de marzo de 2018). "Prejuicios codificados: cómo los algoritmos alimentan la injusticia" . Financial Times . Consultado el 10 de mayo de 2018 .
  3. ↑ "Opinión | Noah Berlatsky: Cómo los algoritmos de búsqueda refuerzan el racismo y el sexismo" . NBC News . Consultado el 10 de mayo de 2018 .
  4. ↑ "Cómo los motores de búsqueda nos están volviendo más racistas" . Vox . Consultado el 10 de mayo de 2018 .
  5. 1 2 Munro, Donald (19 de abril de 2018). "Cuando Google se equivoca" . THE MUNRO REVIEW . Recuperado el 5 de octubre de 2021 .
  6. ↑Jessie, Daniels; Karen, Gregory; Cottom, Tressie McMillan (2017). Digital Sociologies. Policy Press. p. 420. ISBN 978-1-4473-2901-5.
  7. ↑Noble, Safiya (2012). Searching for black girls: old traditions in new media (Thesis). University of Illinois at Urbana-Champaign.
  8. ↑"In 'Algorithms of Oppression,' Safiya Noble finds old stereotypes persist in new media". annenberg.usc.edu. Retrieved 2021-10-05.
  9. 12"Safiya Umoja Noble Receives Top Honor from Fresno State | UCLA GSE&IS Ampersand". 2019-02-07. Archived from the original on 2019-02-07. Retrieved 2021-10-05.
  10. ↑Noble, Safiya U. (2017-01-15). "Google and the Misinformed Public". www.chronicle.com. Archived from the original on 2020-07-23. Retrieved 2021-10-05.
  11. ↑ALGORITHMS OF OPPRESSION | Kirkus Reviews.
  12. ↑"a book review by Robert Fantina: Algorithms of Oppression: How Search Engines Reinforce Racism". www.nyjournalofbooks.com. Retrieved 2021-10-05.
  13. ↑D’Ignazio, C.; Klein, L. (2019). Data Feminism. MIT Press. pp. The Power Chapter 1: The Power Chapter (pgs 21–47).
  14. ↑Noble's main focus is on Google’s algorithms, although she also discusses Amazon, Facebook, Twitter, and WordPress. She invests in the control over what users see and don't see. "Search results reflects the values and norms of the search companies commercial partners and advertisers and often reflect our lowest and most demeaning beliefs, because these ideas circulate so freely and so often that they are normalized and extremely profitable." (Nobel, 36)
  15. 12"Scholar sets off Twitter furor by critiquing a book he hasn't read". Retrieved 2018-02-08.
  16. ↑"Can an algorithm be racist? Spotting systemic oppression in the age of Google". Digital Trends. 2018-03-03. Retrieved 2018-03-24.
  17. ↑Noble, Safiya (2018). Algorithms of oppression: How search engines reinforce racism. New York, NY, US: New York University Press. pp. Ch. 2. ISBN 978-1-4798-3364-1.
  18. 12Noble, Safiya Umoja (20 February 2018). Algorithms of oppression : how search engines reinforce racism. New York. pp. 134–135. ISBN 9781479837243OCLC 987591529​​ {{cite book}}: CS1 mantenimiento: falta el editor de ubicación ( enlace )
  19. ↑ Noble, Safiya Umoja (20 de febrero de 2018). Algoritmos de opresión: cómo los motores de búsqueda refuerzan el racismo . Nueva York. pág. 112. ISBN  978-1-4798-3724-3OCLC 987591529​​ {{cite book}}: CS1 mantenimiento: falta el editor de ubicación ( enlace )
  20. ↑ Noble, Safiya Umoja (2018). Algoritmos de opresión : cómo los motores de búsqueda refuerzan el racismo . Nueva York. pág. 121. ISBN   978-1-4798-3364-1OCLC 1017736697​​ {{cite book}}: CS1 mantenimiento: falta el editor de ubicación ( enlace )
  21. ↑ Noble, Safiya Umoja (20 de febrero de 2018). Algoritmos de opresión : cómo los motores de búsqueda refuerzan el racismo . Nueva York. ISBN  978-1-4798-3724-3OCLC 987591529​​ {{cite book}}: CS1 mantenimiento: falta el editor de ubicación ( enlace )
  22. ↑ "Ideologías de cosas aburridas: Internet e infraestructuras de la raza - Los Angeles Review of Books" . Los Angeles Review of Books . Consultado el 24 de marzo de 2018 .
  23. ↑ Algoritmos de opresión: cómo los motores de búsqueda refuerzan el racismo, por Safiya Umoja Noble | Booklist Online .
  • Algoritmos de opresión: cómo los motores de búsqueda refuerzan el racismo.
Obtenido de " https://en.wikipedia.org/w/index.php?title=Algorithms_of_Oppression&oldid=1362242596 "