Psicosis por IA o delirios mesiánicos: las consecuencias del uso de los chatbots como terapeutas o consejeros

ChatGPT, Gemini, Meta IA y Grok son solo algunas de las IA que utilizan millones de personas en todo el mundo. Algunas personas personalizan estos chatbots dándoles acentos particulares, nombres y hasta personalidades a la hora de contestar sus preguntas. También las usan como consejeros, diarios de vida y hasta terapeutas. Sin embargo, en el último tiempo se han advertido problemas como delirios mesiánicos y la denominada “psicosis por IA” en las personas que utilizan esta tecnología.

Según detalló The Washington Post, existen casos donde personas han perdido el contacto con la realidad debido al intenso uso que hacen de la IA. De esta forma, comienzan a desarrollar falsas creencias, delirios de grandeza y hasta obsesiones con los chatbots.

La directora del Doctorado en Psicología e investigadora del Centro de Estudios en Neurociencia Humana y Neuropsicología UDP, Alejandra Rossi, explicó a The Clinic que “la IA, a pesar de sus avances, presenta limitaciones importantes en el ámbito terapéutico. En primer lugar, carece de juicio clínico humano, lo que se traduce en una incapacidad para comprender matices emocionales complejos, el lenguaje no verbal y las dinámicas transferenciales que son fundamentales en un espacio terapéutico”.

Los riesgos del uso de la IA como terapeuta

Rossi afirma que “la interacción que da la IA es inherentemente limitada. Los modelos de lenguaje, por sofisticados que sean, no pueden proporcionar el tipo de contención emocional que un terapeuta humano ofrece a un paciente en crisis. Por ejemplo, no pueden desarrollar un encuadre o intervenciones terapéuticas personalizadas basadas en la historia única de cada persona”.

Junto con eso, indica que “otro aspecto a considerar es el riesgo de sobre confianza por parte de los usuarios. Existe la posibilidad de que algunas personas atribuyan a la IA un nivel de autoridad equiparable al de un profesional de la salud mental, sin saber o tener en cuenta las limitaciones intrínsecas de esta. Por último, están las cuestiones de privacidad y seguridad. Muchas plataformas de IA no han sido diseñadas teniendo en cuenta algún estándar de confidencialidad y protección de información/datos que son esenciales en la práctica terapéutica”.

¿Qué es la ‘Psicosis por IA’?

La académica detalló que “el concepto de ‘psicosis por IA’ está saliendo como un tema de interés en salud mental aunque aún no tiene un reconocimiento clínico formal, ni figura como diagnóstico en los manuales como el DSM-5 o la CIE-11. Pero sí está comenzando a aparecer en la literatura, principalmente a través de estudios de caso y reportes anecdóticos. La ‘psicosis por IA se refiere a situaciones en las que personas con algún tipo de predisposición incorporan elementos de la inteligencia artificial en sus construcciones delirantes”.

“Por ejemplo, pueden desarrollar la creencia de que la IA les está hablando directamente o que ha sido diseñado específicamente para ellas/os (ideas de referencia o delirios de control). También están los delirios mesiánicos (interpretar las respuestas de la IA como confirmación de una misión especial) o delirios persecutorios (sentir que la IA los vigila o persigue). Este fenómeno puede considerarse una variante moderna de los delirios temáticos, adaptada al contexto tecnológico actual, y subraya la necesidad de investigar más a fondo el impacto de las nuevas tecnologías en la salud mental. Esto, obvio que merece atención clínica, especialmente en grupos de riesgo: personas con trastornos psicóticos diagnosticados, jóvenes en estado de riesgo psicótico (particularmente con historial de trauma complejo), y personas socialmente aisladas o con escaso apoyo social/emocional”, añadió.

“Siempre hay que considerar la supervisión humana”

A juicio de Rossi, “en estos casos, la IA podría funcionar como una ‘estructura psíquica externa’ potencialmente exacerbando la desregulación emocional y distorsionando el juicio de realidad”. Asimismo, recalca que a su parecer “es crucial que abordemos la cuestión de los protocolos de seguridad en los chatbots de IA. No podemos ignorar la responsabilidad ética, clínica y legal que conlleva el uso de estas tecnologías en contextos potencialmente sensibles”.

“Quizás habría que partir por pensar en esto: ‘¿no deberíamos exigir que estos sistemas cuenten con mecanismos de detección de palabras claves relacionadas con riesgos como el suicidio, la autolesión o la violencia?’ Y cuando se detecten, ‘¿no sería lo más apropiado que hubiera una derivación inmediata a líneas de ayuda profesional?’. Además, es importante que se establezcan límites claros. Estos chatbots no son terapeutas, no pueden dar diagnósticos. Debemos asegurarnos de que los usuarios comprendan exactamente qué pueden y qué no pueden hacer estas herramientas“, destaca.

También, recalca que “siempre hay que considerar la supervisión humana. Especialmente en contextos delicados, tener profesionales supervisando estos modelos de IA y realizando revisiones periódicas. La tecnología avanza rápidamente, colegas, pero nuestra responsabilidad es asegurarnos de que ese avance no comprometa la seguridad y el bienestar de las personas que interactúan con ella. Es hora de que tomemos medidas proactivas en este sentido”.