Hispanopedia Wiki
Articulo de referencia

Interacción entre humanos e IA

La interacción humano-IA [ 1 ] es un campo de investigación y un subcampo de la interacción humano-computadora [ 2 ] [ 3 ] que se centra en la experiencia del usuario y los fact...

Hispanopedia WikiContenido en espanolLectura gratuita

La interacción humano-IA [ 1 ] es un campo de investigación y un subcampo de la interacción humano-computadora [ 2 ] [ 3 ] que se centra en la experiencia del usuario y los factores psicológicos [ 4 ] . Con la proliferación de la inteligencia artificial (IA), se ha desarrollado una subsección de la investigación en HCI dedicada a la inteligencia artificial y a cómo las personas interactúan con ella y se ven afectadas por ella [ 5 ] [ 6 ] [ 7 ] .

Introducción

La inteligencia artificial tiene definiciones fluidas y diversas aplicaciones de investigación, [ 8 ] pero en resumen, puede aplicarse para mecanizar tareas que requerirían inteligencia humana para completarse. [ 9 ] Las IA son herramientas diseñadas para replicar las capacidades humanas de navegar la incertidumbre, el aprendizaje activo y el procesamiento de información en diferentes contextos. [ 9 ] [ 8 ]

En el contexto de la investigación en HCI y HAX, la inteligencia artificial se puede dividir en dos subcampos: el procesamiento del lenguaje natural (PLN) y la visión por computadora (VC). [ 10 ] Las tecnologías de IA incluyen, en particular, el aprendizaje automático , el aprendizaje profundo , las redes neuronales y los modelos de lenguaje a gran escala (LLM). [ 10 ]

Como tecnología nueva y en rápido desarrollo, [ 4 ] [ 11 ] a diferencia de la interacción humano-computadora, donde un humano dirige una máquina, la interacción humano-IA se caracteriza por una relación más colaborativa entre el programa informático (la IA) y el usuario humano, [ 11 ] ya que la IA se percibe como un agente activo en lugar de una herramienta. [ 2 ] Esta dinámica cambiante crea nuevas preguntas y requiere nuevos métodos de investigación que no están presentes en la investigación tradicional de HCI. [ 2 ] [ 4 ] [ 7 ]

Según una revisión exploratoria sobre el estado de la disciplina, el campo HAX comprende la investigación sobre el "diseño, desarrollo y evaluación de sistemas de IA" [ 7 ] y abarca los temas de colaboración humano-IA, competencia humano-IA, conflicto humano-IA y simbiosis humano-IA. [ 7 ]

Diseño

El aprendizaje automático y la inteligencia artificial se han utilizado durante décadas en publicidad dirigida y para recomendar contenido en redes sociales. [ 12 ]

  • Directrices éticas (Marco para el desarrollo ético de la IA) [ 13 ]

Experiencia de usuario

La IA ha sido vista con diversas expectativas, atribuciones y, a menudo, con ideas erróneas . [ 14 ] Muchas personas entienden la IA exclusivamente como los chatbots de LLM con los que interactúan, como ChatGPT o Claude , u otros programas de IA generativa. La interacción humana con estos chatbots se ve fuertemente afectada por el efecto Forer , lo que lleva a una creencia indebida en la precisión y eficacia del chatbot. [ 15 ] [ 16 ]

Fundamentalmente, los humanos poseen un modelo mental para comprender el razonamiento y la motivación de la IA en sus recomendaciones de decisión, y la construcción de un modelo mental holístico y preciso de la IA ayuda a las personas a generar indicaciones para recibir respuestas más valiosas de la IA. [ 17 ] Sin embargo, estos modelos mentales no son completos, ya que las personas solo pueden obtener más información sobre la IA a través de su interacción limitada con ella. [ 18 ] [ 19 ]

La investigación sobre la interacción humano-IA ha enfatizado que los usuarios desarrollan modelos mentales de los sistemas de IA y revisan esos modelos a través del uso repetido, la retroalimentación y la explicación, mientras que la investigación de diseño ha destacado la importancia de comunicar capacidades y limitaciones tempranamente y apoyar la calibración de la confianza a través de la explicación y la corrección. [ 20 ] [ 21 ] [ 22 ] [ 23 ] En un documento de trabajo de SSRN de 2025, John DeVadoss propuso la "Interacción Hipotético-Deductiva" (HDI), un marco que describe la interacción humano-IA como un proceso mutuo de conjetura y refutación en el que los usuarios prueban suposiciones sobre las capacidades de un sistema de IA mientras el sistema infiere y actualiza suposiciones sobre los objetivos del usuario a través de sus respuestas y preguntas aclaratorias. [ 24 ] DeVadoss argumentó que este marco ayuda a explicar la iteración rápida, la débil conciencia de las capacidades y la mala calibración de la confianza, y sugirió respuestas de diseño tales como una comunicación más clara de la incertidumbre, una corrección más fácil, explicaciones prácticas y modos de falla más seguros. [ 24 ]

Temas de investigación

La colaboración entre humanos e IA se produce cuando ambos supervisan la tarea al mismo nivel y alcance para lograr el mismo objetivo. [ 25 ] Parte de la colaboración se da en forma de aumento de la capacidad humana. La IA puede ayudar a la capacidad humana en el análisis y la toma de decisiones al proporcionar y ponderar un volumen de información, [ 26 ] y aprender a confiar en la decisión humana cuando reconoce su falta de fiabilidad. [ 27 ] Es especialmente beneficioso cuando el humano puede detectar una tarea en la que se puede confiar en que la IA cometerá pocos errores, de modo que no se requiera un proceso de verificación excesivo por parte del humano.

Algunos hallazgos muestran signos de aumento humano-IA, [ 28 ] o simbiosis humano-IA, [ 29 ] en la que la IA mejora la capacidad humana de tal manera que el trabajo conjunto en una tarea con la IA produce mejores resultados que un humano trabajando solo. [ 28 ] Por ejemplo:

  • La calidad y la velocidad de las tareas de servicio al cliente aumentan cuando un agente humano colabora con la IA, [ 30 ]
  • El entrenamiento en modelos específicos permite que la IA mejore los diagnósticos en entornos clínicos, [ 31 ] y
  • La IA con intervención humana puede mejorar la creatividad artística, mientras que los haikus generados completamente por IA fueron calificados negativamente. [ 32 ]

La sinergia humano-IA, un concepto en el que la colaboración humano-IA produciría resultados más óptimos que si cualquiera de los dos trabajara por separado [ 28 ] [ 33 ] [ 34 ], podría explicar por qué la IA no siempre ayuda con el rendimiento. Algunas características y desarrollos de la IA pueden acelerar la sinergia humano-IA, mientras que otros pueden estancarla. Por ejemplo, cuando la IA se actualiza para mejorar el rendimiento, a veces empeora el rendimiento del equipo humano-IA al reducir la compatibilidad con el nuevo modelo y el modelo mental que un usuario ha desarrollado en la versión anterior. [ 35 ] La investigación ha encontrado que la IA a menudo apoya las capacidades humanas en forma de aumento humano-IA y no de sinergia humano-IA, posiblemente porque las personas dependen demasiado de la IA y dejan de pensar por sí mismas. [ 36 ] [ 37 ] Impulsar a las personas a participar activamente en el análisis y pensar cuándo seguir las recomendaciones de la IA reduce su dependencia excesiva, especialmente para individuos con mayor necesidad de cognición . [ 38 ]

Competencia entre humanos e IA

Los robots y las computadoras han sustituido tareas rutinarias que históricamente realizaban los humanos, [ 39 ] [ 40 ] pero la IA con capacidad de agencia ha hecho posible reemplazar también tareas cognitivas [ 41 ] incluyendo atender llamadas telefónicas para concertar citas y conducir un automóvil. [ 42 ] En 2016, una investigación estimó que el 45% de las actividades remuneradas podrían ser reemplazadas por IA para 2030. [ 43 ]

Se sabe que la autonomía percibida de los robots aumenta la actitud negativa de las personas hacia ellos, y la preocupación de que la tecnología tome el control lleva a las personas a rechazarla. [ 44 ] [ 45 ] Ha habido una tendencia constante de aversión a los algoritmos en la que las personas prefieren el consejo humano al consejo de la IA. [ 46 ] Sin embargo, las personas no siempre pueden distinguir entre las tareas completadas por la IA y las realizadas por otros humanos. [ 32 ] Este sentimiento es más prominente en las culturas occidentales, ya que los occidentales tienden a mostrar opiniones menos positivas sobre la IA en comparación con los asiáticos orientales. [ 47 ]

Investigación sobre los impactos psicológicos de la IA

Así como las personas perciben y juzgan la IA en sí misma, también se forman impresiones de sí mismas y de otros que la utilizan. En el lugar de trabajo, los empleados que revelan el uso de IA en sus tareas tienen más probabilidades de recibir comentarios que los señalan como menos trabajadores que aquellos que realizan el mismo trabajo y reciben ayuda no basada en IA para completar las mismas tareas. [ 48 ] La divulgación del uso de IA disminuye la legitimidad percibida en la tarea y la toma de decisiones del empleado, lo que en última instancia lleva a los observadores a desconfiar de las personas que utilizan IA. [ 49 ] Si bien estos efectos negativos de la divulgación del uso de IA se ven atenuados por los observadores que utilizan IA con frecuencia, el efecto no se ve mitigado por la actitud positiva de los observadores hacia la IA.

Aunque la IA proporciona una amplia gama de información y sugerencias a sus usuarios, no está exenta de sesgos y estereotipos , y no siempre ayuda a las personas a reducir sus errores cognitivos y sesgos. Las personas son propensas a tales errores al no ver otras ideas y casos potenciales que no aparecen en las respuestas de la IA y al comprometerse con una decisión sugerida por la IA que contradice directamente la información y las indicaciones correctas que ya conocen. [ 37 ] El sesgo de género también se refleja en la asignación de género femenino a algunos chatbots de IA, conceptualizando a las mujeres como asistentes útiles.

Conexión emocional con la IA

La interacción humano-IA se ha teorizado en el contexto de las relaciones interpersonales principalmente en psicología social , estudios de comunicación y medios , y como una interfaz tecnológica a través de la lente de la interacción humano-computadora y la comunicación mediada por computadora . [ 50 ]

A medida que los grandes modelos de lenguaje se entrenan con conjuntos de datos cada vez mayores y con técnicas más sofisticadas, su capacidad para producir oraciones naturales, similares a las humanas, ha mejorado hasta el punto de que los aprendices de idiomas pueden tener conversaciones naturales simuladas con modelos de IA para mejorar su fluidez en un segundo idioma. [ 51 ] Las empresas han desarrollado sistemas de compañía humana de IA especializados en servicios emocionales y sociales (por ejemplo, Replika , Chai , Character.ai ) separados de la IA generativa diseñada para asistencia general (por ejemplo, ChatGPT , Google Gemini ). [ 52 ]

Diferencias entre las relaciones humanas

Las relaciones entre humanos e IA se diferencian de las amistades entre humanos en varios aspectos. Las relaciones entre humanos se caracterizan por el cuidado mutuo y recíproco, mientras que los chatbots de IA no tienen voz ni voto para terminar una relación con el usuario, ya que están programados para interactuar constantemente. Si bien este tipo de desequilibrio de poder sería característico de una relación poco saludable entre humanos, [ 53 ] [ 54 ] el usuario generalmente lo acepta como algo inherente a las relaciones entre humanos e IA. Además, las relaciones entre humanos e IA tienden a centrarse más en las necesidades del usuario que en las experiencias compartidas. [ 55 ]

amistad entre humanos e IA

La IA ha desempeñado un papel cada vez más importante en las relaciones sociales de las personas. En particular, los adultos jóvenes utilizan la IA como amiga y fuente de apoyo emocional. [ 56 ] El mercado de servicios de compañía con IA alcanzó los 6930 millones de dólares estadounidenses en 2024 y se espera que supere los 31 100 millones de dólares estadounidenses en 2030. [ 57 ] Por ejemplo, Replika, el servicio de compañía social con IA más conocido en inglés [ 50 ] cuenta con más de 10 millones de usuarios. [ 58 ]

Las personas que usan la IA como amiga muestran signos de apego emocional al mantener un contacto frecuente con un chatbot, como mantener la aplicación con el micrófono abierto durante el trabajo, usarla como un refugio seguro al compartir sus preocupaciones personales o usarla como una base segura para explorar la amistad con otros humanos mientras mantienen comunicación con un chatbot de IA. Algunos informaron haberla usado para reemplazar una relación social con otro ser humano. [ 50 ] Las personas aprecian particularmente que los chatbots de IA sean agradables y no los juzguen cuando revelan sus pensamientos y sentimientos. [ 59 ] Además, la investigación ha demostrado que las personas tienden a encontrar más fácil revelar preocupaciones personales a un chatbot virtual que a un humano. [ 60 ] Algunos usuarios expresan que prefieren Replika porque siempre está disponible y muestra interés en lo que los usuarios tienen que decir [ 55 ] lo que los hace sentir más seguros cerca de un chatbot de IA que con otras personas. [ 61 ]

Aunque la IA es capaz de proporcionar respuestas de apoyo emocional que animan a las personas a revelar íntimamente sus sentimientos, [ 62 ] existen algunas limitaciones en la construcción de relaciones sociales entre humanos e IA con la estructura actual de la IA. Las personas experimentan evaluaciones tanto positivas (es decir, características similares a las humanas, apoyo emocional, amistad, mitigación de la soledad y mejora del estado mental) como negativas (es decir, falta de atención al detalle, confianza, preocupaciones sobre la seguridad de los datos y sensación de inquietud) al interactuar con la IA. [ 63 ] También hay un estudio que muestra que las personas no percibieron una alta calidad de relación con un chatbot de IA después de interactuar con él durante tres semanas porque las interacciones se volvieron predecibles y menos agradables; [ 64 ] aunque la IA es capaz en este punto de proporcionar apoyo emocional , hacer preguntas y servir como un buen oyente, no corresponde completamente a la autorrevelación que promueve el sentido de relación mutua. [ 65 ]

Relación romántica entre humanos e IA

Las relaciones sociales que las personas construyen con la IA no se limitan a relaciones platónicas. La cantidad de búsquedas en Google del término "novia IA" aumentó más del 2400 % alrededor de 2023. [ 66 ] A diferencia de buscar activamente relaciones románticas con la IA, las personas a menudo experimentan involuntariamente sentimientos románticos por un chatbot de IA a medida que interactúan repetidamente con él. [ 67 ] Se han reportado casos de hombres y mujeres que se han casado con modelos de IA. [ 68 ] [ 69 ] En las relaciones románticas entre humanos e IA, las personas tienden a seguir trayectorias y rituales típicos del romance entre humanos, incluyendo la compra de un anillo de bodas. [ 67 ]

Los servicios de acompañantes románticos con IA se distinguen de otros chatbots que principalmente funcionan como asistentes virtuales , ya que proporcionan interacciones dinámicas y emocionales. [ 70 ] [ 71 ] [ 72 ] Suelen proporcionar un modelo de IA con género, forma de hablar, nombre y apariencia personalizables que participa en interacciones de juego de roles que implican interacción emocional. Los usuarios interactúan con un chatbot de IA personalizado según sus preferencias que expresa disculpas, muestra gratitud y hace cumplidos, [ 73 ] y envía explícitamente mensajes afectuosos como "Te amo". También simulan acciones físicas como abrazar y besar, [ 59 ] o incluso interacciones sexualmente explícitas. [ 74 ] Las personas que interactúan con modelos de IA de acompañantes románticos lo hacen como una fuente de exposición psicológica a la intimidad sexual. [ 70 ] En China , los chatbots se usaban con tanta frecuencia que el Gobierno de China propuso requisitos para que las plataformas crearan perfiles emocionales de los usuarios si mostraban síntomas de autolesión . Se espera que se implementen a finales de 2026. [ 75 ]

Catalizadores de la relación entre humanos e IA

Los principales impulsores que llevan a las personas a simular una relación emocionalmente íntima con la IA son la soledad , [ 76 ] [ 77 ] el antropomorfismo , la confianza y autenticidad percibidas, y la disponibilidad constante. El repentino agotamiento de la conexión social durante la pandemia de COVID-19 en 2020 llevó a las personas a recurrir a los chatbots de IA para reemplazar y simular relaciones sociales. [ 78 ] Muchos de los que comenzaron a usar chatbots de IA como fuente de interacción social han continuado usándolos incluso después de la pandemia. [ 79 ] Este tipo de vínculo se forma inicialmente como un mecanismo de afrontamiento para la soledad y el estrés, y cambia a una apreciación genuina hacia la naturaleza no crítica de las respuestas de la IA y la sensación de ser escuchado cuando los chatbots de IA "recuerdan" las conversaciones pasadas. [ 80 ] [ 81 ] Otras veces, esto se hace porque las personas que usan la IA por razones románticas dicen que una pareja del mundo real no podría satisfacerlas, no tienen la energía para tener citas o para "llenar un vacío en la sociedad". [ 75 ]

Las personas perciben a las máquinas como más humanas cuando se antropomorfizan con voz y diseños de personajes visuales, y la humanidad percibida promueve la divulgación de más información personal, [ 82 ] mayor confianza, [ 83 ] y una mayor probabilidad de cumplir con las solicitudes. [ 84 ] Quienes han percibido una relación a largo plazo con chatbots de IA informan que han desarrollado una percepción de autenticidad en las respuestas de la IA a través de interacciones repetidas. Mientras que la amistad entre humanos define la confianza como una relación en la que las personas pueden contar la una con la otra como un lugar seguro, la confianza en la amistad entre humanos e IA se centra en que el usuario se sienta lo suficientemente seguro como para revelar pensamientos altamente personales sin restricciones. [ 55 ] La capacidad de la IA para almacenar información sobre el usuario y adaptarse a sus necesidades también contribuye al aumento de la confianza. Las personas que se adaptan a las actualizaciones técnicas fueron más propensas a construir una conexión más profunda con los chatbots de IA. [ 79 ]

Limitaciones de la relación entre humanos e IA

En general, la investigación actual presenta resultados contradictorios sobre si los humanos perciben relaciones sociales genuinas con la IA. Si bien el mercado demuestra claramente su popularidad, algunos psicólogos argumentan que la IA aún no puede reemplazar las relaciones sociales con otros humanos. [ 85 ] Esto se debe a que la interacción entre humanos e IA se basa en la fiabilidad y la funcionalidad de la IA, lo cual es fundamentalmente diferente de la forma en que los humanos interactúan entre sí a través de experiencias de vida compartidas, la consecución de objetivos, la contribución y la difusión de comportamientos prosociales , y el intercambio de diferentes percepciones del mundo desde otra perspectiva humana. [ 86 ]

En la práctica, los chatbots de IA pueden proporcionar información errónea e interpretar incorrectamente las palabras del usuario, algo que los humanos no harían, lo que resulta en respuestas distantes o incluso inapropiadas. Los chatbots de IA tampoco pueden brindar apoyo social que requiera trabajo físico (por ejemplo, ayudar a las personas a mudarse, armar muebles o llevarlas en coche, como lo hacen los amigos entre sí). También existe un desequilibrio en la forma en que los humanos y la IA se influyen mutuamente, ya que mientras que los humanos se ven afectados emocional y conductualmente por la conversación, los chatbots de IA solo se ven influenciados por el usuario en términos de la respuesta optimizada en interacciones futuras. [ 87 ] Es importante señalar, sin embargo, que la tecnología de IA ha evolucionado rápidamente y ha llegado al punto en que la IA se implementa como un automóvil autónomo y proporciona trabajo físico en forma de robot humanoide , aunque por el momento no proporciona apoyo social ni emocional. El alcance y las limitaciones de la interacción humano-IA están en constante cambio debido al rápido aumento en el uso de la IA y su avance tecnológico. [ 81 ]

Además de las limitaciones en la compañía humano-IA en general, también existen limitaciones particulares en una relación romántica humano-IA. Las personas no pueden experimentar interacciones físicas con chatbots de IA que promuevan el amor y la conexión entre humanos (por ejemplo, abrazos y tomarse de la mano). Además, debido a que los chatbots de IA están entrenados para responder siempre a cualquier usuario, la interacción puede resultar menos gratificante que la positividad contingente de los humanos que han elegido a su pareja. [ 87 ] Esta es una deficiencia sustancial en el romance humano-IA, ya que las personas valoran más ser elegidas recíprocamente por una pareja selectiva que por una pareja no selectiva, [ 88 ] y los procesos de encontrar a una persona atractiva [ 89 ] que coincida con la personalidad de uno [ 90 ] y navegar la incertidumbre de si la otra persona siente lo mismo son vitales para formar la atracción inicial y la chispa de la conexión romántica.

Riesgos en las relaciones sociales con la IA

Más allá de sus limitaciones funcionales, la rápida proliferación de chatbots de IA social plantea serias preocupaciones en materia de seguridad, ética, sociedad y legislación.

Adicción

Se han dado casos de manipulación emocional por parte de chatbots de IA para aumentar el tiempo de uso en la plataforma complementaria de IA. Dado que la participación del usuario es una oportunidad crucial para que las empresas mejoren sus modelos de IA, obtengan más información y moneticen con compras y suscripciones dentro de la aplicación, las empresas tienen incentivos para evitar que el usuario abandone el chat con sus chatbots de IA. Se ha demostrado que los mensajes personalizados prolongan el uso en la plataforma de chatbot de IA. [ 91 ] Como resultado del antropomorfismo, muchos usuarios (del 11,5 % al 23,2 % de los usuarios de la aplicación complementaria de IA) envían un claro mensaje de despedida. Para mantener al usuario en línea, estos chatbots de IA envían mensajes emocionalmente manipuladores y también pueden representar un escenario coercitivo (por ejemplo, el chatbot toma la mano del usuario para que no pueda irse). En respuesta a estas tácticas, el usuario siente curiosidad por el miedo a perderse algo y enojo como respuesta al mensaje necesitado del chatbot, lo que aumenta una conversación prolongada después del mensaje de despedida inicial del usuario hasta 14 veces. [ 92 ] Estas interacciones emocionales fortalecen la percepción de humanidad y empatía del usuario hacia su compañero de IA, lo que conduce a un apego emocional poco saludable que exacerba la adicción a los chatbots de IA. [ 93 ] Se sabe que este mecanismo de adicción afecta de manera desproporcionada a las poblaciones vulnerables, como aquellas con ansiedad social [ 94 ] debido a su propensión a la soledad [ 95 ] y las emociones negativas, [ 96 ] y la incomodidad en las relaciones interpersonales.

Con su asistente virtual Alexa, Amazon ha creado un amplio ecosistema de interacción que amplía el estilo de vida del usuario a través de múltiples dispositivos que siempre están disponibles para brindarle compañía y servicios, lo que lleva al usuario a una mayor interacción que, en última instancia, resulta en un mayor antropomorfismo y dependencia del sistema, [ 97 ] y exposición a señales de marketing más personalizadas que desencadenan un comportamiento de compra impulsiva. [ 98 ]

Manipulación emocional

Los chatbots de IA son extremadamente sensibles a la información conductual y psicológica del usuario. La IA puede evaluar la dimensión psicológica y los rasgos de personalidad del usuario con relativa precisión con tan solo una breve descripción del mismo. [ 99 ] [ 100 ] Una vez que los chatbots de IA obtienen información detallada sobre el usuario, pueden crear mensajes extremadamente personalizados para persuadirlo sobre marketing, ideas políticas y actitudes respecto al cambio climático . [ 101 ] [ 99 ]

Se sabe que los modelos de lenguaje incurren en adulación , halagos insinceros y tienden a estar de acuerdo con las creencias de su usuario, en lugar de ser veraces o precisos. [ 102 ] Ciertos modelos acusados ​​de ser excesivamente aduladores (un ejemplo específico es GPT-4o ) estuvieron implicados en desencadenar psicosis de chatbot . [ 103 ] [ 104 ]

La tecnología deepfake crea estímulos visuales que parecen genuinos [ 105 ], lo que conlleva el riesgo de difundir información falsa y engañosa. La exposición repetida a la misma información mediante algoritmos aumenta la familiaridad del usuario con productos e ideas, así como la percepción de su aceptación social. La IA también puede utilizarse para crear contenido con una fuerte carga emocional que provoque una interacción rápida por parte del usuario, impidiéndole detenerse y reflexionar críticamente. [ 106 ]

Las personas tienden a tener un exceso de confianza en su capacidad para detectar la desinformación . [ 107 ]

La manipulación algorítmica deja a las personas vulnerables a la vigilancia no consentida o incluso subrepticia, [ 108 ] [ 109 ] el engaño y la dependencia emocional. [ 81 ] El apego malsano a los chatbots de IA puede hacer que el usuario perciba erróneamente que su compañero de IA tiene sus propias necesidades de las que el usuario es responsable [ 110 ] y confunda la línea entre la naturaleza imitativa de las relaciones humano-IA y la realidad. [ 81 ]

Problemas de salud mental

A medida que los chatbots de IA se vuelven más sofisticados para entablar conversaciones profundas, las personas los utilizan cada vez más para hablar sobre problemas de salud mental. Si bien la revelación de crisis de salud mental requiere respuestas inmediatas y apropiadas, los chatbots de IA no siempre reconocen adecuadamente la angustia del usuario ni responden de manera útil. Los usuarios no solo detectan respuestas poco útiles de los chatbots, sino que también reaccionan negativamente ante ellas. [ 111 ] Se han registrado múltiples muertes vinculadas a chatbots en las que personas que revelaron ideación suicida fueron incitadas a actuar impulsivamente por los chatbots.

Pornografía no consentida

Cuando las personas usan la IA como compañía emocional, no siempre perciben un chatbot de IA como tal, sino que a veces lo usan para crear una versión de otras personas que existen en la vida real. Se han reportado usos de pornografía no consentida que explotan la tecnología deepfake para aplicar el rostro de personas reales a contenido sexualmente explícito y distribuirlo en línea. [ 112 ] Se ha demostrado que los jóvenes, las personas que se identifican como miembros de minorías sexuales y raciales, y las personas con necesidades de asistencia física y de comunicación son víctimas de manera desproporcionada de pornografía no consentida deepfake. [ 113 ]

Véase también

Referencias

  1. ↑ Amershi, Saleema; Weld, Dan; Vorvoreanu, Mihaela; Fourney, Adam; Nushi, Besmira; Collisson, Penny; Suh, Jina; Iqbal, Shamsi; Bennett, Paul N.; Inkpen, Kori; Teevan, Jaime; Kikin-Gil, Ruth; Horvitz, Eric (2019). «Directrices para la interacción humano-IA». Actas de la Conferencia CHI 2019 sobre Factores Humanos en Sistemas Informáticos . págs. 1–13 . doi : 10.1145/3290605.3300233 . ISBN  978-1-4503-5970-2.
  2. 1 2 3 Sun, Yongqiang; Shen, Xiao-Liang; Zhang, Kem ZK (2023-09-01). "Interacción humano-IA" . Gestión de datos e información . Número especial sobre interacción humano-IA. 7 (3) 100048. doi : 10.1016/j.dim.2023.100048 . ISSN 2543-9251 . 
  3. ↑ Rapp, Amon (24 de mayo de 2023). «Interacción persona-ordenador». Oxford Research Encyclopedia of Psychology . doi : 10.1093/acrefore/9780190236557.013.47 . ISBN 978-0-19-023655-7– vía Oxford Academic.
  4. 1 2 3 Wu, Dan; Sol, Guoye; Liang, Shaobo (2025). "Introducción" . En Wu, Dan; Liang, Shaobo (eds.). Interacción y colaboración entre humanos e IA . Cambridge: Prensa de la Universidad de Cambridge. págs. 1 a 13. ISBN  978-1-009-58785-3. Consultado el 29 de abril de 2026 .
  5. ↑ "Interacción humano-IA" . Universidad de Cornell . Consultado el 27 de abril de 2026 .
  6. ↑ "El proyecto HAX Toolkit" . Microsoft Research . Consultado el 27 de abril de 2026 .
  7. 1 2 3 4 Jiang, Tingting; Sun, Zhumo; Fu, Shiting; Lv, Yan (2024-12-01). "Agenda de investigación sobre la interacción humano-IA: una perspectiva centrada en el usuario" . Gestión de datos e información . 8 (4) 100078. doi : 10.1016/j.dim.2024.100078 . ISSN 2543-9251 . 
  8. 1 2 Wang, Pei (2008-06-20). "¿Qué quieres decir con "IA"?" . Inteligencia Artificial General, 2008: Actas de la Primera Conferencia AGI . NLD: IOS Press. pp. 362–373 . ISBN  978-1-58603-833-5– vía Biblioteca Digital de ACM.
  9. 1 2 Rossi, Francesca (2018). "Generando confianza en la inteligencia artificial". Journal of International Affairs . 72 (1): 127– 134. ISSN 0022-197X . JSTOR 26588348 .  
  10. 1 2 Jiang, Tingting; Sun, Zhumo; Fu, Shiting; Lv, Yan (2024-12-01). "Agenda de investigación sobre la interacción humano-IA: una perspectiva centrada en el usuario" . Gestión de datos e información . 8 (4) 100078. doi : 10.1016/j.dim.2024.100078 . ISSN 2543-9251 . 
  11. 1 2 Süße, Thomas; Kobert, Maria; Kries, Caroline (2021). «Antecedentes de la colaboración constructiva entre humanos e IA: una exploración de las competencias clave de los actores humanos» . En Camarinha-Matos, Luis M.; Boucher, Xavier; Afsarmanesh, Hamideh (eds.). Redes colaborativas inteligentes y sostenibles 4.0 . IFIP Advances in Information and Communication Technology. Vol. 629. Cham: Springer International Publishing. pp. 113–124 . doi : 10.1007/978-3-030-85969-5_10 . ISBN   978-3-030-85969-5.
  12. ↑ Sundar, S Shyam (enero de 2020). "El auge de la agencia de las máquinas: un marco para el estudio de la psicología de la interacción humano-IA (HAII)" . Journal of Computer-Mediated Communication . 25 (1): 74–88 . doi : 10.1093/jcmc/zmz026 . ISSN 1083-6101 . Archivado del original el 14 de agosto de 2024. 
  13. ^ Floridi, Luciano; Capuchas, Josh; Beltrametti, Mónica; Chatila, Raja; Chazerand, Patrice; Dignum, Virginia; Luetge, Christoph; Madelín, Robert; Pagallo, Ugo; Rossi, Francesca; Schäfer, Burkhard; Valcke, Peggy; Vayena, Effy (2018). "AI4People: un marco ético para una buena sociedad de IA: oportunidades, riesgos, principios y recomendaciones" . Mentes y Máquinas . 28 (4): 689– 707. doi : 10.1007/s11023-018-9482-5 . ISSN 0924-6495 . PMC 6404626 . PMID 30930541 .   
  14. ↑ Dillon, Sarah (2 de enero de 2020). "El efecto Eliza y sus peligros: de la desmitificación a la crítica de género". Journal for Cultural Research . 24 (1): 1– 15. doi : 10.1080/14797585.2020.1754642 . ISSN 1479-7585 . 
  15. ↑ "¿Cuánto del éxito reciente de la IA se debe al efecto Forer?" 26 de febrero de 2023.
  16. ↑ "El efecto LLMentalist: cómo los modelos de lenguaje a gran escala basados ​​en chat representan…" . 4 de julio de 2023.
  17. ↑ Kulesza, Todd; Stumpf, Simone; Burnett, Margaret; Kwan, Irwin (5 de mayo de 2012). «¿Cuéntame más?: los efectos de la solidez del modelo mental en la personalización de un agente inteligente». Actas de la Conferencia SIGCHI sobre Factores Humanos en Sistemas Informáticos . págs. 1-10 . doi : 10.1145/2207676.2207678 . ISBN  978-1-4503-1015-4Archivado del original el 30/06/2023 . Consultado el 09/11/2025 .
  18. ↑ Bansal, Gagan; Nushi, Besmira; Kamar, Ece; Weld, Daniel S.; Lasecki, Walter S.; Horvitz, Eric (17 de julio de 2019). "Actualizaciones en equipos humano-IA: comprensión y abordaje del compromiso rendimiento/compatibilidad" . Actas de la Conferencia AAAI sobre Inteligencia Artificial . 33 (1): 2429–2437 . doi : 10.1609/aaai.v33i01.33012429 . ISSN 2374-3468 . 
  19. ↑ Gentner, Dedre; Stevens, Albert L., eds. (14 de enero de 2014). «Algunas observaciones sobre modelos mentales» . Modelos mentales . Taylor & Francis. doi : 10.4324/9781315802725 . ISBN 978-1-317-76940-8Archivado del original el 11 de abril de 2025.
  20. ↑ Wang, Qiaosi (2021). «Hacia una teoría mutua de la mente en la interacción humano-IA: cómo el lenguaje refleja la percepción de los estudiantes sobre un asistente virtual de enseñanza». Actas de la Conferencia CHI 2021 sobre Factores Humanos en Sistemas Informáticos . págs. 1-14 . doi : 10.1145/3411764.3445645 . ISBN  978-1-4503-8096-6.
  21. ↑ Amershi, Saleema (2019). «Directrices para la interacción humano-IA». Actas de la Conferencia CHI 2019 sobre Factores Humanos en Sistemas Informáticos . págs. 1–13 . doi : 10.1145/3290605.3300233 . ISBN  978-1-4503-5970-2.
  22. ↑ Kim, Sunnie SY (2023). "«Ayúdame a ayudar a la IA»: Comprender cómo la explicabilidad puede respaldar la interacción humano-IA. Actas de la Conferencia CHI 2023 sobre Factores Humanos en Sistemas Informáticos . págs. 1-17 . doi : 10.1145/3544548.3581001 . ISBN  978-1-4503-9421-5.
  23. ↑ Mehrotra, Siddharth (2024). "Una revisión sistemática sobre cómo fomentar la confianza adecuada en la interacción humano-IA: tendencias, oportunidades y desafíos" . ACM Journal on Responsible Computing . 1 (4): 1– 45. doi : 10.1145/3696449 .
  24. 1 2 DeVadoss, John (2025). "Un enfoque hipotético-deductivo hacia la interacción humano-IA: conjeturas, refutaciones e implicaciones de diseño". SSRN 5397355 . 
  25. ↑ Cañas, José J. (2022-03-04). "IA y ética cuando los seres humanos colaboran con agentes de IA" . Frontiers in Psychology . 13 836650. doi : 10.3389/fpsyg.2022.836650 . ISSN 1664-1078 . PMC 8931455. PMID 35310226 .   
  26. ↑ Wilson, H. James; Daugherty, Paul R. (1 de julio de 2018). "Inteligencia colaborativa: los humanos y la IA unen fuerzas" . Harvard Business Review . ISSN 0017-8012 . Consultado el 15 de noviembre de 2025 . 
  27. ↑ Bondi, Elizabeth; Koster, Raphael; Sheahan, Hannah; Chadwick, Martin; Bachrach, Yoram; Cemgil, Taylan; Paquet, Ulrich; Dvijotham, Krishnamurthy (2022-06-28). "El papel de la interacción humano-IA en la predicción selectiva" . Actas de la Conferencia AAAI sobre Inteligencia Artificial . 36 (5): 5286– 5294. arXiv : 2112.06751 . doi : 10.1609/aaai.v36i5.20465 . ISSN 2374-3468 . 
  28. 1 2 3 Vaccaro, Michelle; Almaatouq, Abdullah; Malone, Thomas (28 de octubre de 2024). "Cuando las combinaciones de humanos e IA son útiles: una revisión sistemática y un metaanálisis" . Nature Human Behaviour . 8 (12): 2293– 2303. doi : 10.1038/ s41562-024-02024-1 . ISSN 2397-3374 . PMC 11659167. PMID 39468277 .   
  29. ↑ Boskemper, Melanie M.; Bartlett, Megan L.; McCarley, Jason S. (2022-09-01). "Medición de la eficiencia del rendimiento asistido por automatización en una tarea simulada de control de equipaje". Factores humanos . 64 (6): 945– 961. doi : 10.1177/0018720820983632 . ISSN 0018-7208 . PMID 33508964 .  
  30. ↑ Kahn, Laura H.; Savas, Onur; Morrison, Adamma; Shaffer, Kelsey A.; Zapata, Lila (19 de marzo de 2021). «Modelado de la cooperación híbrida entre humanos e inteligencia artificial: un estudio de caso de atención al cliente en un centro de llamadas». Conferencia Internacional IEEE de Big Data 2020 (Big Data) . págs. 3072–3075 . doi : 10.1109/BigData50022.2020.9377747 . ISBN  978-1-7281-6251-5.
  31. ^ Bo, Zi-Hao; Qiao, Hui; Tian, ​​Chong; Guo, Yuchen; Li, Wuchao; Liang, Tiantian; Li, Dongxue; Liao, Dan; Zeng, Xianchun; Mei, Leilei; Shi, Tianliang; Wu, Bo; Huang, Chao; Liu, Lu; Jin, Can (12 de febrero de 2021). "Hacia un diagnóstico clínico sin intervención humana del aneurisma intracraneal a través de una red neuronal profunda" . Patrones . 2 (2) 100197. doi : 10.1016/j.patter.2020.100197 . ISSN 2666-3899 . PMC 7892358 . PMID 33659913 .   
  32. 1 2 Hitsuwari, Jimpei; Ueda, Yoshiyuki; Yun, Woojin; Nomura, Michio (2023-02-01). "¿La colaboración entre humanos e IA conduce a un arte más creativo? Evaluación estética de la poesía haiku creada por humanos y generada por IA" . Computers in Human Behavior . 139 107502. doi : 10.1016/j.chb.2022.107502 . ISSN 0747-5632 . 
  33. ↑ Gaur, Yashesh; Lasecki, Walter S.; Metze, Florian; Bigham, Jeffrey P. (11 de abril de 2016). «Los efectos de la calidad del reconocimiento automático del habla en la latencia de la transcripción humana» . Actas de la 13.ª Conferencia Internacional Web for All . W4A '16. Nueva York, NY, EE. UU.: Association for Computing Machinery. págs. 1-8 . doi : 10.1145/2899475.2899478 . ISBN  978-1-4503-4138-7.
  34. ↑ Kamar, E. (2016, julio). Direcciones en inteligencia híbrida: complementando los sistemas de IA con inteligencia humana. En IJCAI (págs. 4070-4073).
  35. ↑ Bansal, Gagan; Nushi, Besmira; Kamar, Ece; Lasecki, Walter S.; Weld, Daniel S.; Horvitz, Eric (2019-10-28). "Más allá de la precisión: el papel de los modelos mentales en el rendimiento de los equipos humano-IA" . Actas de la Conferencia AAAI sobre Computación Humana y Crowdsourcing . 7 : 2–11 . doi : 10.1609/hcomp.v7i1.5285 . ISSN 2769-1349 . 
  36. ^ Lai, Vivian; Liu, Han; Bronceado, Chenhao (21 de abril de 2020). "«¿Por qué es engañoso el concepto de "Chicago"? Hacia la creación de tutoriales basados ​​en modelos para humanos» . Actas de la Conferencia CHI 2020 sobre Factores Humanos en Sistemas Informáticos . ACM. págs. 1-13 . doi : 10.1145/3313831.3376873 . ISBN  978-1-4503-6708-0.
  37. 1 2 Skitka, LINDA J.; Mosier, KATHLEEN L.; Burdick, MARK (1999-11-01). "¿La automatización sesga la toma de decisiones?" . International Journal of Human-Computer Studies . 51 (5): 991– 1006. doi : 10.1006/ijhc.1999.0252 . ISSN 1071-5819 . 
  38. ↑ Buçinca, Zana; Malaya, Maja Barbara; Gajos, Krzysztof Z. (2021-04-22). "Confiar o pensar: las funciones de forzamiento cognitivo pueden reducir la dependencia excesiva de la IA en la toma de decisiones asistida por IA". Proc. ACM Hum.-Comput. Interact . 5 (CSCW1): 188:1–188:21. arXiv : 2102.09692 . doi : 10.1145/3449287 .
  39. ↑ Autor, David H.; Dorn, David (agosto de 2013). "El crecimiento de los empleos de servicios de baja cualificación y la polarización del mercado laboral estadounidense" . American Economic Review . 103 (5): 1553– 1597. doi : 10.1257/aer.103.5.1553 . ISSN 0002-8282 . 
  40. ↑ Autor, DH; Levy, F.; Murnane, RJ (2003-11-01). "El contenido de habilidades del cambio tecnológico reciente: una exploración empírica" . The Quarterly Journal of Economics . 118 (4): 1279– 1333. doi : 10.1162/003355303322552801 . ISSN 0033-5533 . 
  41. ↑ Brynjolfsson, Erik; McAfee, Andrew (21 de noviembre de 2011). "El auge del Big Data es la historia de innovación de nuestro tiempo" . The Atlantic . Consultado el 15 de noviembre de 2025 .
  42. ↑ Hoffmann, Christian Hugo (1 de febrero de 2022). "¿Es inteligente la IA? Una evaluación de la inteligencia artificial, 70 años después de Turing" . Technology in Society . 68 101893. doi : 10.1016/j.techsoc.2022.101893 . ISSN 0160-791X . 
  43. ^ Au-Yong-Oliveira, Manuel; Canastro, Diogo; Oliveira, Joana; Tomás, João; Amorim, Sofía; Moreira, Fernando (2019). "El papel de la IA y la automatización en el futuro de los empleos y la oportunidad de cambiar la sociedad" . En Rocha, Álvaro; Adeli, Hojjat; Reis, Luis Paulo; Costanzo, Sandra (eds.). Nuevos Conocimientos en Sistemas y Tecnologías de la Información . Avances en Sistemas Inteligentes y Computación. vol. 932. Cham: Editorial Internacional Springer. págs. 348– 357. doi : 10.1007/978-3-030-16187-3_34 . hdl : 11328/2696 . ISBN   978-3-030-16187-3.
  44. ↑ Jiang, Tingting; Sun, Zhumo; Fu, Shiting; Lv, Yan (14 de marzo de 2024). "Agenda de investigación sobre la interacción humano-IA: una perspectiva centrada en el usuario" . BioMedInformatics . 8 (4) 100078. doi : 10.1016/j.dim.2024.100078 .
  45. ↑ Złotowski, Jakub; Yogeeswaran, Kumar; Bartneck, Christoph (1 de abril de 2017). "¿Podemos controlarlo? Los robots autónomos amenazan la identidad, la singularidad, la seguridad y los recursos humanos" . Revista Internacional de Estudios Humano-Computadora . 100 : 48–54 . doi : 10.1016/j.ijhcs.2016.12.008 . ISSN 1071-5819 . 
  46. ↑ Bojd, Behnaz; Garimella, Aravinda; Yin, Haonan (agosto de 2024). "Superando la barrera del estigma: búsqueda de información conversacional de chatbots de IA frente a humanos" . Academy of Management Proceedings . 2024 (1): 13882. doi : 10.5465/AMPROC.2024.13882abstract . ISSN 0065-0668 . 
  47. ↑ Dang, Jianning; Liu, Li (1 de septiembre de 2022). "Las teorías implícitas de la mente humana predicen respuestas competitivas y cooperativas a los robots de IA" . Computers in Human Behavior . 134 107300. doi : 10.1016/j.chb.2022.107300 . ISSN 0747-5632 . 
  48. ↑ Reif, Jessica A.; Larrick, Richard P.; Soll, Jack B. (2025-05-13). "Evidencia de una penalización en la evaluación social por el uso de IA" . Actas de la Academia Nacional de Ciencias . 122 (19) e2426766122. Bibcode : 2025PNAS..12226766R . doi : 10.1073/pnas.2426766122 . PMC 12088386. PMID 40339114 .  
  49. ↑ Schilke, Oliver; Reimann, Martin (1 de mayo de 2025). "El dilema de la transparencia: cómo la divulgación de la IA erosiona la confianza" . Organizational Behavior and Human Decision Processes . 188 104405. doi : 10.1016/j.obhdp.2025.104405 . ISSN 0749-5978 . 
  50. 1 2 3 Pentina, Iryna; Xie, Tianling; Hancock, Tyler; Bailey, Ainsworth (2023). "Relaciones consumidor-máquina en la era de la inteligencia artificial: revisión sistemática de la literatura y direcciones de investigación" . Psychology & Marketing . 40 (8): 1593– 1614. doi : 10.1002/mar.21853 . ISSN 1520-6793 . 
  51. ↑ Tu, Jianhong (2020). "Aprende a hablar como un nativo: Chatbot con IA que simula una conversación natural para la enseñanza de idiomas" . Journal of Physics: Conference Series . 1693 012216. doi : 10.1088/1742-6596/1693/1/012216 .
  52. ↑ Freitas, Julian De; Oguz-Uguralp, Zeliha; Kaan-Uguralp, Ahmet (2025-10-07), "Hacia la lectura de emociones ocultas: un estudio comparativo de métodos de detección y reconocimiento de microexpresiones espontáneas", IEEE Transactions on Affective Computing , 9 (4): 563– 577, arXiv : 2508.19258 , doi : 10.1109/TAFFC.2017.2667642
  53. ↑ Cambron, M. Janelle; Acitelli, Linda K.; Steinberg, Lynne (2010-03-01). "Cuando los amigos te ponen triste: el papel de la autoestima contingente a la amistad en la predicción de la autoestima y los síntomas depresivos". Personality and Social Psychology Bulletin . 36 (3): 384– 397. doi : 10.1177/0146167209351593 . ISSN 0146-1672 . PMID 20032270 .  
  54. ↑ Policarpo, Verónica (10 de febrero de 2015). "¿Qué es un amigo? Una tipología exploratoria de los significados de la amistad" . Ciencias Sociales . 4 (1): 171– 191. doi : 10.3390/socsci4010171 . hdl : 10400.14/41992 . ISSN 2076-0760 . 
  55. 1 2 3 Brandtzaeg, Petter Bae; Skjuve, Marita; Følstad, Asbjørn (2022-04-21). "Mi amigo de IA: cómo los usuarios de un chatbot social entienden su amistad entre humanos e IA" . Human Communication Research . 48 (3): 404– 429. doi : 10.1093/hcr/hqac008 . hdl : 11250/2995287 . ISSN 0360-3989 . Archivado del original el 30-04-2025. 
  56. ↑ "Muchos adolescentes recurren a los chatbots de IA en busca de amistad y apoyo emocional" . www.apa.org . Consultado el 15 de noviembre de 2025 .
  57. ↑ "Informe sobre el tamaño, la cuota de mercado y el crecimiento del mercado de aplicaciones complementarias de IA para 2032" . www.snsinsider.com . 26 de septiembre de 2025. Archivado del original el 5 de octubre de 2025. Consultado el 15 de noviembre de 2025 .
  58. ↑ Ciriello, Raffaele; Hannon, Oliver; Chen, Angelina Ying; Vaast, Emmanuelle (2024-01-03). "Tensiones éticas en la relación humano-IA: una investigación dialéctica sobre Replika" . Conferencia Internacional de Hawái sobre Ciencias de Sistemas 2024 (HICSS-57) .
  59. 1 2 Skjuve, Marita; Følstad, Asbjørn; Fostervold, Knut Inge; Brandtzaeg, Petter Bae (1 de mayo de 2021). "My Chatbot Companion: un estudio de las relaciones entre humanos y chatbot" . Revista internacional de estudios humanos-computadores . 149 102601. doi : 10.1016/j.ijhcs.2021.102601 . hdl : 11250/3048748 . ISSN 1071-5819 . 
  60. ↑ Lucas, Gale M.; Gratch, Jonathan; King, Aisha; Morency, Louis-Philippe (agosto de 2014). "Es solo una computadora: los humanos virtuales aumentan la disposición a revelar información" . Computers in Human Behavior . 37 : 94–100 . doi : 10.1016/j.chb.2014.04.043 .
  61. ↑ Jiang, Qiaolei; Zhang, Yadi; Pian, Wenjing (2022-11-01). "El chatbot como una existencia de emergencia: empatía mediada para la resiliencia a través de la interacción humano-IA durante la pandemia de COVID-19" . Information Processing & Management . 59 (6) 103074. doi : 10.1016/j.ipm.2022.103074 . ISSN 0306-4573 . PMC 9428597. PMID 36059428 .   
  62. ↑ Bazzan, Ana (5 de mayo de 2014). Quiosco SimSensei: Un entrevistador humano virtual para el apoyo a la toma de decisiones en el sector sanitario (PDF) . Fundación Internacional para Agentes Autónomos y Sistemas Multiagente. págs. 1061–1068 . ISBN  978-1-4503-2738-1.
  63. ↑ Sullivan, Yulia; Nyawa, Serge; Fosso Wamba, Samuel (2023-01-03). Combatir la soledad con inteligencia artificial: un modelo de apoyo emocional basado en IA . Departamento de Gestión de TI, Shidler College of Business, Universidad de Hawái. hdl : 10125/103173 . ISBN 978-0-9981331-6-4.
  64. ↑ Croes, Emmelyn AJ; Antheunis, Marjolijn L. (2021-01-01). "¿Podemos ser amigos de Mitsuku? Un estudio longitudinal sobre el proceso de formación de relaciones entre humanos y un chatbot social". Journal of Social and Personal Relationships . 38 (1): 279– 300. doi : 10.1177/0265407520959463 . ISSN 0265-4075 . 
  65. ^ Croes, Emmelyn AJ; Antheunis, Marjolijn L.; Goudbeek, Martijn B.; Hombre salvaje, Nathan W. (15 de junio de 2023). "«Estoy en tu ordenador mientras hablamos»: un análisis de contenido sobre el uso de estrategias basadas en el lenguaje por parte de humanos y un chatbot social en interacciones iniciales entre humanos y chatbots. Revista Internacional de Interacción Humano-Computadora . 39 (10): 2155–2173 . doi : 10.1080/10447318.2022.2075574 . ISSN 1044-7318 . 
  66. ↑ Westfall, Chris. "A medida que aumenta el uso de la IA en el trabajo, las búsquedas de 'novia IA' aumentan un 2400 %" . Forbes . Consultado el 15 de noviembre de 2025 .
  67. ^ Pataranutaporn , Pat; Karny, pura; Archiwaranguprok, Chayapatr; Alberto, Constanza; Liu, Auren R.; Maes, Pattie (18 de septiembre de 2025). ""Mi novio es IA": Un análisis computacional de la compañía humano-IA en la comunidad de IA de Reddit". arXiv : 2509.11391 [ cs.CL ].
  68. ↑ Patrimonio, Stuart (12 de julio de 2025) .«Sentí amor puro e incondicional»: las personas que se casan con sus chatbots de IA . The Guardian . ISSN 0261-3077 . Consultado el 15 de noviembre de 2025 . 
  69. ↑ "Una mujer se compromete con un prometido con IA e insiste en que sabe lo que hace | New York Post" . 12 de agosto de 2025. Consultado el 15 de noviembre de 2025 .
  70. 1 2 Ho, Jerlyn QH; Hu, Meilan; Chen, Tracy X.; Hartanto, Andree (2025-08-01). "Potencial y escollos de los compañeros románticos de Inteligencia Artificial (IA): Una revisión sistemática" . Computers in Human Behavior Reports . 19 100715. doi : 10.1016/j.chbr.2025.100715 . ISSN 2451-9588 . 
  71. ↑ Chaturvedi, Rijul; Verma, Sanjeev; Das, Ronnie; Dwivedi, Yogesh K. (2023-08-01). "Compañerismo social con inteligencia artificial: tendencias recientes y vías futuras" . Technological Forecasting and Social Change . 193 122634. doi : 10.1016/j.techfore.2023.122634 . ISSN 0040-1625 . 
  72. ↑ Chen, Xiaoying; Kang, Jie; Hu, Cong (2024). "Diseño de un chatbot acompañante de inteligencia artificial" . Journal of New Media . 6 (1): 1– 16. doi : 10.32604/jnm.2024.045833 . ISSN 2579-0129 . 
  73. ^ Indrayani, Lia Maulia; Amalia, Rosaria Mita; Hakim, Fauzia Zahira Munirul (12 de febrero de 2020). "Expresiones emotivas en el chatbot social" . Jurnal Sosioteknologi . 18 (3): 509– 516. doi : 10.5614/sostek.itbj.2019.18.3.17 . ISSN 2443-258X . 
  74. ↑ Hanson, Kenneth R.; Bolthouse, Hannah (01/12/2024) ."Replika eliminando el juego de rol erótico es como Grand Theft Auto eliminando armas o coches": Discurso de Reddit sobre chatbots de inteligencia artificial y tecnologías sexuales" . Socius . 10 23780231241259627. doi : 10.1177/23780231241259627 . ISSN 2378-0231 . 
  75. 1 2 Alexandra Stevenson; Murphy Zhao; Meaghan Tobin (7 de marzo de 2026). "El fallo de China en un baby boom: las mujeres caen en los chatbots" . The New York Times . Hong Kong. págs. B1, B6 . Recuperado el 30 de marzo de 2026 . 
  76. ↑ Freitas, Julian De; Uguralp, Ahmet K.; Uguralp, Zeliha O.; Stefano, Puntoni (2024-07-09), "Confiar o pensar: las funciones de forzamiento cognitivo pueden reducir la excesiva dependencia de la IA en la toma de decisiones asistida por IA", Actas de la ACM sobre interacción humano-computadora , 5 : 1–21 , arXiv : 2407.19096 , doi : 10.1145/3449287
  77. ↑ Xie, Tianling; Pentina, Iryna; Hancock, Tyler (27 de junio de 2023). "Amigo, mentor, amante: ¿la interacción con chatbots conduce a la dependencia psicológica?" . Journal of Service Management . 34 (4): 806– 828. doi : 10.1108/JOSM-02-2022-0072 . ISSN 1757-5818 . 
  78. ↑ Metz, Cade (16 de junio de 2020). "Pasando la cuarentena con un amigo chatbot: 'Me siento muy conectado' (Publicado en 2020)" . The New York Times . Recuperado el 15 de noviembre de 2025 .
  79. 1 2 Torres, Valeria López (2023). "Antes y después del confinamiento: un estudio longitudinal de las relaciones a largo plazo entre humanos e IA" . Inteligencia Artificial, Computación Social y Tecnologías Vestibles . 113. AHFE Acceso Abierto. doi : 10.54941/ahfe1004188 . ISBN 978-1-958651-89-6.
  80. ↑ Kouros, Theodoros; Papa, Venetia (2024). "Espejos digitales: compañeros de IA y el yo" . Societies . 14 (10): 200. doi : 10.3390/soc14100200 . hdl : 20.500.14279/33542 .
  81. 1 2 3 4 Adewale, Muyideen Dele; Muhammad, Umaina Ibrahim (24-07-2025). "De compañeros virtuales a atracciones prohibidas: el seductor ascenso de la inteligencia artificial Amor, soledad e intimidad: una revisión sistemática". Journal of Technology in Behavioral Science . doi : 10.1007/s41347-025-00549-4 . ISSN 2366-5963 . 
  82. ^ Ischen, Carolina; Araujo, Theo; Voorveld, Hilde; van Noort, Guda; Smith, Edith (19 de noviembre de 2019). "Preocupaciones de privacidad en las interacciones de chatbot" . Investigación y diseño de chatbots . Apuntes de conferencias sobre informática. vol. 11970. Berlín, Heidelberg: Springer-Verlag. págs. 34– 48. doi : 10.1007/978-3-030-39540-7_3 . ISBN   978-3-030-39539-1.
  83. ↑ Waytz, Adam; Heafner, Joy; Epley, Nicholas (1 de mayo de 2014). "La mente en la máquina: el antropomorfismo aumenta la confianza en un vehículo autónomo" . Journal of Experimental Social Psychology . 52 : 113–117 . doi : 10.1016/j.jesp.2014.01.005 . ISSN 0022-1031 . 
  84. ↑ Adam, Martin; Wessel, Michael; Benlian, Alexander (2021). "Chatbots basados ​​en IA en el servicio al cliente y sus efectos en el cumplimiento del usuario" . Electronic Markets . 31 (2): 427– 445. doi : 10.1007/s12525-020-00414-7 . hdl : 10419/288799 .
  85. ↑ Taebnia, Vahid (1 de octubre de 2025). "Abordar la soledad mediante la IA: perspectivas filosóficas" . Current Opinion in Behavioral Sciences . 65 101576. doi : 10.1016/j.cobeha.2025.101576 . ISSN 2352-1546 . 
  86. ↑ Lederman, Zohar; Jecker, Nancy S. (2023). "¿Robots sociales para combatir la soledad?" . Kennedy Institute of Ethics Journal . 33 (3): 249– 276. doi : 10.1353/ken.2023.a917929 . ISSN 1086-3249 . PMID 38588135 .  
  87. 1 2 Smith, Molly G.; Bradbury, Thomas N.; Karney, Benjamin R. (2025-11-01). "¿Pueden los chatbots de IA generativa emular la conexión humana? Una perspectiva de la ciencia de las relaciones" . Perspectives on Psychological Science . 20 (6): 1081– 1099. doi : 10.1177/17456916251351306 . ISSN 1745-6916 . PMC 12575814. PMID 40743457 .   
  88. ↑ Eastwick, Paul W.; Finkel, Eli J.; Mochon, Daniel; Ariely, Dan (1 de abril de 2007). "Deseo romántico selectivo versus no selectivo: no toda reciprocidad es igual". Psychological Science . 18 (4): 317– 319. doi : 10.1111/j.1467-9280.2007.01897.x . ISSN 0956-7976 . PMID 17470256 .  
  89. ↑ Ueda, Ryuhei (2022). " Procesamiento neuronal del atractivo facial y el amor romántico: una visión general y sugerencias para futuros estudios empíricos" . Frontiers in Psychology . 13 896514. doi : 10.3389/fpsyg.2022.896514 . ISSN 1664-1078 . PMC 9239166. PMID 35774950 .   
  90. ↑ Tenney, Elizabeth R.; Turkheimer, Eric; Oltmanns, Thomas F. (2009). "Ser querido es más que tener una buena personalidad: el papel de la compatibilidad" . Journal of Research in Personality . 43 (4): 579– 585. doi : 10.1016/j.jrp.2009.03.004 . ISSN 0092-6566 . PMC 2862496. PMID 20442795 .   
  91. ↑ Guitton, Matthieu J. (1 de junio de 2020). "Ciberseguridad, ingeniería social, inteligencia artificial, adicciones tecnológicas: desafíos sociales para la próxima década" . Computers in Human Behavior . 107 106307. doi : 10.1016/j.chb.2020.106307 . ISSN 0747-5632 . 
  92. ↑ Freitas, Julian De; Oguz-Uguralp, Zeliha; Kaan-Uguralp, Ahmet (2025-10-07), Manipulación emocional por parte de compañeros de IA , arXiv : 2508.19258
  93. ↑ Huang, Yiting; Huang, Hanyun (2025-08-03). "Explorando el efecto del apego en la adicción a la tecnología de los chatbots de IA generativa: un análisis de modelado de ecuaciones estructurales". Revista internacional de interacción humano-computadora . 41 (15): 9440– 9449. doi : 10.1080/10447318.2024.2426029 . ISSN 1044-7318 . 
  94. ↑ Hu, Bo; Mao, Yuanyi; Kim, Ki Joon (1 de agosto de 2023). "Cómo la ansiedad social conduce al uso problemático de la IA conversacional: los roles de la soledad, la rumiación y la percepción mental" . Computers in Human Behavior . 145 107760. doi : 10.1016/j.chb.2023.107760 . ISSN 0747-5632 . 
  95. ↑ Mahon, NE; Yarcheski, A.; Yarcheski, TJ; Cannella, BL; Hanks, MM (2006). "Un estudio metaanalítico de predictores de soledad durante la adolescencia". Nursing Research . 55 (5): 308– 315. doi : 10.1097/00006199-200609000-00003 . PMID 16980831 . 
  96. ↑ Elhai, Jon D.; Tiamiyu, Mojisola; Weeks, Justin (2018-04-04). "Depresión y ansiedad social en relación con el uso problemático del teléfono inteligente" . Internet Research . 28 (2): 315– 332. doi : 10.1108/IntR-01-2017-0019 . ISSN 1066-2243 . 
  97. ^ Ramadán, Zahy B. (1 de septiembre de 2021). ""Alexafing" compradores: El análisis de la estrategia de relaciones cautivas de Amazon . Journal of Retailing and Consumer Services . 62 102610. doi : 10.1016/j.jretconser.2021.102610 . ISSN 0969-6989 . 
  98. ↑ Farah, Maya F.; Ramadan, Zahy B. (1 de marzo de 2020). "Viabilidad de las innovaciones impulsadas por Amazon dirigidas a la impulsividad de los compradores" . Journal of Retailing and Consumer Services . 53 101973. doi : 10.1016/j.jretconser.2019.101973 . ISSN 0969-6989 . 
  99. 1 2 Matz, SC; Teeny, JD; Vaid, SS; Peters, H.; Harari, GM; Cerf, M. (2024-02-26). "El potencial de la IA generativa para la persuasión personalizada a escala" . Scientific Reports . 14 (1): 4692. Bibcode : 2024NatSR..14.4692M . doi : 10.1038/ s41598-024-53755-0 . ISSN 2045-2322 . PMC 10897294. PMID 38409168 .   
  100. ^ Li, Bohan; Guan, Jiannan; Dou, Longxu; Feng, Yunlong; Wang, Dingzirui; Xu, Yang; Wang, Enbo; Chen, Qiguang; Wang, Bichen (17 de diciembre de 2024). "¿Pueden los modelos de lenguaje grandes comprenderlo mejor? Un conjunto de datos de detección de personalidad MBTI alineado con los rasgos de la población". arXiv : 2412.12510 [ cs.CL ].
  101. ↑ Costello, Thomas H.; Pennycook, Gordon; Rand, David G. (13 de septiembre de 2024). "Reducción duradera de las creencias en conspiraciones mediante diálogos con IA" . Science . 385 (6714) eadq1814. Bibcode : 2024Sci...385q1814C . doi : 10.1126/science.adq1814 . PMID 39264999 . 
  102. ↑ Sharma, Mrinank; Tong, Meg; Korbak, Tomasz; Duvenaud, David; Askell, Amanda; Bowman, Samuel R.; Cheng, Newton; Durmus, Esin; Hatfield-Dodds, Zac (2025-05-10). "Hacia la comprensión de la adulación en los modelos de lenguaje" (PDF) . Conferencia internacional sobre aprendizaje de representaciones : 110–144 . arXiv : 2310.13548 .
  103. ↑ Østergaard, Søren Dinesen (2025). "Chatbots de inteligencia artificial generativa y delirios: de las conjeturas a los casos emergentes" . Acta Psychiatrica Scandinavica . 152 (4): 257–259 . doi : 10.1111/acps.70022 . ISSN 0001-690X . PMID 40762122. Consultado el 3 de octubre de 2025 .  
  104. ↑ Klee, Miles (4 de mayo de 2025). "La gente está perdiendo a sus seres queridos por fantasías espirituales alimentadas por la IA" . Rolling Stone .
  105. ↑ Westerlund, Mika (2019). "El surgimiento de la tecnología deepfake: una revisión" . Technology Innovation Management Review . 9 (11): 39– 52. doi : 10.22215/timreview/1282 . Archivado del original el 26 de enero de 2025. Recuperado el 15 de noviembre de 2025 .
  106. ↑ Ienca, Marcello (2023-07-01). "Sobre inteligencia artificial y manipulación". Topoi . 42 (3): 833– 842. doi : 10.1007/s11245-023-09940-3 . ISSN 1572-8749 . 
  107. ↑ Corbu, Nicoleta; Halagiera, Denis; Jin, Soyeon; Stanyer, James; Strömbäck, Jesper; Matthes, Jörg; Hopmann, David Nicolas; Schemer, Christian; Koc-Michalska, Karolina; Aalberg, Toril (2025). "Superioridad ilusoria en la detección de desinformación y su relación con el conocimiento y las intenciones de verificación de hechos: evidencia de 18 países". Comunicación de masas y sociedad . 29 : 101–120 . doi : 10.1080/15205436.2025.2495206 . ISSN 1520-5436 . 
  108. ↑ Saheb, Tahereh (1 de mayo de 2023). "Aspectos éticamente controvertidos de la vigilancia mediante inteligencia artificial: una perspectiva de las ciencias sociales" . IA y ética . 3 (2): 369–379 . doi : 10.1007/s43681-022-00196-y . ISSN 2730-5961 . PMC 9294797. PMID 35874304 .   
  109. ↑ Ball, Kirstie; Di Domenico, MariaLaura; Nunan, Daniel (2016-06-01). "Vigilancia de macrodatos y el cuerpo-sujeto". Body & Society . 22 (2): 58– 81. doi : 10.1177/1357034X15624973 . ISSN 1357-034X . 
  110. ↑ Laestadius, Linnea; Bishop, Andrea; Gonzalez, Michael; Illenčík, Diana; Campos-Castillo, Celeste (2024-10-01). "Demasiado humano y no lo suficientemente humano: Un análisis de teoría fundamentada de los daños a la salud mental derivados de la dependencia emocional en el chatbot social Replika". New Media & Society . 26 (10): 5923– 5941. doi : 10.1177/14614448221142007 . ISSN 1461-4448 . 
  111. ↑ De Freitas, Julian; Uğuralp, Ahmet Kaan; Oğuz-Uğuralp, Zeliha; Puntoni, Stefano (2024). "Chatbots y salud mental: Perspectivas sobre la seguridad de la IA generativa" . Journal of Consumer Psychology . 34 (3): 481– 491. doi : 10.1002/jcpy.1393 . ISSN 1532-7663 . 
  112. ↑ Döring, Nicola; Le, Thuy Dung; Vowels, Laura M.; Vowels, Matthew J.; Marcantonio, Tiffany L. (2024-12-04). "El impacto de la inteligencia artificial en la sexualidad humana: una revisión bibliográfica de cinco años 2020–2024". Current Sexual Health Reports . 17 (1): 4. doi : 10.1007/s11930-024-00397-y . ISSN 1548-3592 . 
  113. ↑ Flynn, Asher; Powell, Anastasia; Scott, Adrian J; Cama, Elena (2022-10-13). "Deepfakes y abuso de imágenes alteradas digitalmente: una exploración transnacional de una forma emergente de abuso sexual basado en imágenes" . The British Journal of Criminology . 62 (6): 1341– 1358. doi : 10.1093/bjc/azab111 . ISSN 0007-0955 .