Hispanopedia Wiki
Articulo de referencia

Efecto ELIZA

Una conversación con Eliza En informática , el efecto ELIZA es la tendencia a proyectar rasgos humanos —como la experiencia, la comprensión semántica o la empatía— en programas ...

Hispanopedia WikiContenido en espanolLectura gratuita
Una conversación con Eliza

En informática , el efecto ELIZA es la tendencia a proyectar rasgos humanos —como la experiencia, la comprensión semántica o la empatía— en programas informáticos rudimentarios. ELIZA era un chatbot de IA simbólica desarrollado en 1966 por Joseph Weizenbaum que imitaba a un psicoterapeuta. Muchos de los primeros usuarios estaban supuestamente convencidos de la inteligencia y la comprensión de ELIZA, a pesar de su enfoque básico de procesamiento de texto y las explicaciones de sus limitaciones.

Historia

El efecto recibe su nombre de ELIZA, el chatbot de 1966 desarrollado por el científico informático del MIT Joseph Weizenbaum . [ 1 ] Al ejecutar el script DOCTOR de Weizenbaum , ELIZA simulaba a un psicoterapeuta rogeriano , principalmente reformulando las respuestas del "paciente " como preguntas: [ 2 ]

Humano : Bueno, mi novio me hizo venir aquí. ELIZA : ¿Tu novio te hizo venir aquí? Humano : Dice que estoy deprimido la mayor parte del tiempo. ELIZA : Lamento oír que estás deprimido. Humano : Es cierto. Soy infeliz. ELIZA : ¿Crees que venir aquí te ayudará a no ser infeliz?

Aunque diseñado estrictamente como un mecanismo para apoyar la "conversación en lenguaje natural" con una computadora, [ 3 ] el script DOCTOR de ELIZA resultó sorprendentemente eficaz para provocar respuestas emocionales en los usuarios, quienes, al interactuar con el programa, comenzaron a atribuir comprensión y motivación a su resultado. [ 4 ] Como Weizenbaum escribió más tarde: "No me había dado cuenta  ... de que exposiciones extremadamente breves a un programa informático relativamente simple podían inducir un pensamiento delirante poderoso en personas completamente normales". [ 5 ] De hecho, el código de ELIZA no había sido diseñado para provocar esta reacción en primer lugar. Tras la observación, los investigadores descubrieron que los usuarios asumían inconscientemente que las preguntas de ELIZA implicaban interés e implicación emocional en los temas tratados, incluso cuando sabían conscientemente que ELIZA no simulaba emociones. [ 6 ]

En el siglo XIX, Charles Babbage ya había observado la tendencia a comprender las operaciones mecánicas en términos psicológicos . Al proponer lo que más tarde se denominaría sumadora con anticipación de acarreo , Babbage comentó que encontraba dichos términos convenientes para fines descriptivos, aunque no se refería a nada más que a la acción mecánica. [ 7 ]

Características

En su forma específica, el efecto ELIZA se refiere únicamente a "la susceptibilidad de las personas a interpretar de forma mucho más profunda de lo que justifican las secuencias de símbolos —especialmente palabras— generadas por ordenadores". [ 8 ] Un ejemplo trivial de la forma específica del efecto ELIZA, proporcionado por Douglas Hofstadter , involucra un cajero automático que muestra las palabras "GRACIAS" al final de una transacción. Un observador ingenuo podría pensar que la máquina está expresando gratitud; sin embargo, solo imprime una secuencia de símbolos preprogramada. [ 8 ]

De manera más general, el efecto ELIZA describe cualquier situación [ 9 ] [ 10 ] en la que, basándose únicamente en la salida de un sistema, los usuarios perciben que los sistemas informáticos tienen "cualidades y capacidades intrínsecas que el software que controla la (salida) no puede lograr" [ 11 ] o "suponen que [las salidas] reflejan una causalidad mayor de la que realmente tienen". [ 12 ] Tanto en sus formas específicas como generales, el efecto ELIZA es notable por ocurrir incluso cuando los usuarios del sistema son conscientes de la naturaleza determinista de la salida producida por el sistema.

Desde un punto de vista psicológico, el efecto ELIZA es el resultado de una sutil disonancia cognitiva entre la conciencia del usuario sobre las limitaciones de la programación y su comportamiento hacia la salida del programa . [ 13 ]

Significado

El descubrimiento del efecto ELIZA fue un avance importante en la inteligencia artificial , que demostró el principio de utilizar la ingeniería social en lugar de la programación explícita para superar una prueba de Turing . [ 14 ]

ELIZA supuestamente convenció a algunos usuarios de que una máquina era humana. Esto marcó un cambio en la interacción humano-máquina, donde las tecnologías se programaron para imitar el comportamiento humano. William Meisel distingue dos grupos de chatbots: " asistentes personales generales " y "asistentes digitales especializados". [ 15 ] Los asistentes digitales generales se han integrado en dispositivos personales, con funciones como enviar mensajes, tomar notas, consultar calendarios y programar citas. Los asistentes digitales especializados "operan en dominios muy específicos o ayudan con tareas muy específicas". [ 15 ] Weizenbaum consideraba que no todo el pensamiento humano podía reducirse a formalismos lógicos y que "hay algunos actos de pensamiento que solo deberían ser intentados por humanos". [ 16 ]

Interpretación como 'obra de teatro'

Noah Wardrip-Fruin , profesor de Medios Computacionales en la Universidad de California, ha argumentado que la ilusión inicialmente presentada por ELIZA es muy frágil, y que en lugar del efecto ELIZA que implica que el ser humano sea "engañado" para aceptar la humanidad del software, las interacciones prolongadas suelen degenerar en un juego. Los usuarios suelen adoptar uno de dos enfoques: o bien intentan deliberadamente que el bot diga cosas ridículas, o bien intentan ayudarlo a mantener la coherencia. En efecto, el usuario representa un "juego de rol digital" con el bot, es decir, una suspensión voluntaria de la incredulidad, similar a la de una experiencia mediática. [ 17 ]

La socióloga Sherry Turkle , quien popularizó el término "efecto ELIZA", también observó este fenómeno, escribiendo: "Algunas personas se embarcan en un esfuerzo total por 'psicodear' al programa, para comprender su estructura con el fin de engañarlo y exponerlo como una 'mera máquina'. Muchos más hacen lo contrario... No hicieron preguntas que sabían que 'confundirían' al programa, que lo harían 'decir tonterías'". Atribuyó esto al deseo de "mantener la ilusión de que Eliza era capaz de responderles". [ 18 ]

Véase también

Referencias

  1. ↑ Berry, David (2023). "Los límites de la computación: Joseph Weizenbaum y el chatbot ELIZA" . Weizenbaum Journal of the Digital Society . 3 (3). doi : 10.34669/WI.WJDS/3.3.2 . ISSN 2748-5625 . 
  2. ↑ Güzeldere, Güven; Franchi, Stefano. "Diálogos con personalidades coloridas de la IA temprana" . Archivado del original el 25 de abril de 2011. Recuperado el 30 de julio de 2007 .
  3. ↑ Weizenbaum, Joseph (enero de 1966). "ELIZA: un programa informático para el estudio de la comunicación en lenguaje natural entre el hombre y la máquina" . Communications of the ACM . 9. Instituto Tecnológico de Massachusetts : 36. doi : 10.1145/365153.365168 . S2CID 1896290. Consultado el 17 de junio de 2008 . 
  4. ↑ Suchman, Lucy A. (1987). Planes y acciones situadas: El problema de la comunicación hombre-máquina . Cambridge University Press. pág. 24. ISBN  978-0-521-33739-7. Consultado el 17 de junio de 2008 .
  5. ↑ Weizenbaum, Joseph (1976). Computer Power and Human Reason: From Judgement to Calculation . WH Freeman. p. 7. ISBN  978-0716704645.
  6. ↑ Billings, Lee (16 de julio de 2007). "El auge de la roboética" . Seed . Archivado del original el 28 de febrero de 2009. (Joseph) Weizenbaum descubrió inesperadamente que, incluso estando plenamente conscientes de que están hablando con un simple programa informático, las personas lo tratan como si fuera un ser real y pensante que se preocupa por sus problemas, un fenómeno ahora conocido como el "Efecto ELIZA".
  7. ↑ Green, Christopher D. (febrero de 2005). "¿Fue la máquina analítica de Babbage un instrumento de investigación psicológica?". Historia de la psicología . 8 (1): 35– 45. doi : 10.1037/1093-4510.8.1.35 . PMID 16021763 . 
  8. 1 2 Hofstadter, Douglas R. (1996). «Prefacio 4 El efecto Eliza inextirpable y sus peligros, epílogo» . Conceptos fluidos y analogías creativas: modelos informáticos de los mecanismos fundamentales del pensamiento . Basic Books. pág. 157. ISBN  978-0-465-02475-9.
  9. ↑ Fenton-Kerr, Tom (1999). «GAIA: Un agente pedagógico experimental para explorar la interacción multimodal». Computación para metáforas, analogías y agentes . Lecture Notes in Computer Science. Vol. 1562. Springer. p. 156. doi : 10.1007/3-540-48834-0_9 . ISBN   978-3-540-65959-4Aunque Hofstadter hace hincapié aquí en el modo texto, el "efecto Eliza" se puede observar en casi todas las modalidades de interacción entre humanos y ordenadores.
  10. ↑ Ekbia, Hamid R. (2008). Sueños artificiales: La búsqueda de la inteligencia no biológica . Cambridge University Press. pág . 8. ISBN  978-0-521-87867-8.
  11. ↑ King, W. (1995). Agentes antropomórficos: ¿amigos, enemigos o locura? (Informe técnico). Universidad de Washington. M-95-1.
  12. ↑ Rouse, William B.; Boff, Kenneth R. (2005). Simulación organizacional . Wiley-IEEE. págs. 308–309 . ISBN  978-0-471-73943-2Este es un problema particular en los entornos digitales , donde el "efecto Eliza", como a veces se le llama, hace que los usuarios asuman que el sistema es más inteligente de lo que realmente es, que los eventos reflejan una causalidad mayor de la que realmente tienen.
  13. ↑ Ekbia, Hamid R. (2008). Sueños artificiales: La búsqueda de la inteligencia no biológica . Cambridge University Press. pág . 156. ISBN  978-0-521-87867-8Pero la gente quiere creer que el programa está "viendo" un partido de fútbol en un nivel de abstracción plausible. Las palabras que manipula están tan cargadas de asociaciones para los lectores que NO se les puede despojar de todas sus imágenes. Collins, por supuesto, sabía que su programa no trataba con nada parecido a un mundo bidimensional de puntos que se mueven suavemente (y mucho menos con cuerpos humanos simplificados), y presumiblemente pensó que sus lectores también se darían cuenta de esto. Sin embargo, no podía sospechar lo poderoso que es el efecto Eliza.
  14. ↑ Trappl, Robert; Petta, Paolo; Payr, Sabine (2002). Emotions in Humans and Artifacts . Cambridge, Mass.: MIT Press. p. 353. ISBN  978-0-262-20142-1El "efecto Eliza" —la tendencia de las personas a tratar a los programas que les responden como si tuvieran más inteligencia de la que realmente tienen (Weizenbaum 1966)— es una de las herramientas más poderosas a disposición de los creadores de personajes virtuales.
  15. 1 2 Dale, Robert (septiembre de 2016). "El regreso de los chatbots" . Ingeniería del lenguaje natural . 22 (5): 811– 817. doi : 10.1017/S1351324916000243 . ISSN 1351-3249 . 
  16. ↑ Weizenbaum, Joseph (1976). El poder informático y la razón humana : del juicio al cálculo . San Francisco, California: WH Freeman and Company. ISBN  0-7167-0464-1OCLC 1527521​​ 
  17. ↑ Wardrip-Fruin, Noah (1 de febrero de 2008). "EP 2.3: Revisitando el efecto Eliza" . Grand Text Auto . Universidad de California, Santa Cruz . Recuperado el 7 de julio de 2026 .
  18. ↑ Turkle, Sherry (1984). El segundo yo: las computadoras y el espíritu humano . Nueva York: Simon & Schuster. pág. 40. ISBN  978-0-671-46848-4.

Lecturas adicionales

  • Hofstadter, Douglas. Prefacio 4: El inextirpable efecto Eliza y sus peligros. (de Conceptos fluidos y analogías creativas : Modelos informáticos de los mecanismos fundamentales del pensamiento , Basic Books: Nueva York, 1995)
  • Turkle, S., Efecto Eliza: tendencia a aceptar las respuestas de las computadoras como más inteligentes de lo que realmente son (de La vida en la pantalla: identidad en la era de Internet , Phoenix Paperback: Londres, 1997)
Obtenido de " https://en.wikipedia.org/w/index.php?title=ELIZA_effect&oldid=1363028792 "