Millones de personas ya consultan sus problemas emocionales a ChatGPT o a otros chatbots de inteligencia artificial. Es gratuito, está disponible a las tres de la madrugada y nunca juzga. Pero ¿puede realmente hacer el trabajo de un psicólogo? Un estudio reciente de la Universidad de Brown, publicado en 2026, responde con claridad: no. Y va más allá: identifica 15 riesgos éticos concretos que estos sistemas cometen de forma sistemática cuando actúan como terapeutas.
El auge del «terapeuta de bolsillo»
Antes de entrar en los datos científicos, conviene entender por qué tanta gente recurre a la inteligencia artificial para hablar de sus problemas emocionales. La respuesta es casi obvia: el acceso a la salud mental sigue siendo un privilegio en gran parte del mundo. Las listas de espera en la sanidad pública pueden superar los seis meses, y el coste de una sesión con un psicólogo privado está fuera del alcance de muchos. En ese vacío, los chatbots se han colado con una promesa tentadora: apoyo inmediato, anónimo y sin coste.
No es un fenómeno marginal. Estudios de uso recientes estiman que decenas de millones de personas ya utilizan herramientas como ChatGPT, Claude o Llama de forma regular para procesar emociones, buscar orientación ante problemas de pareja, gestionar la ansiedad o simplemente encontrar un espacio donde sentirse escuchadas. Algunas aplicaciones comerciales —como Woebot o Wysa— han sido diseñadas específicamente para ese propósito, con mayor o menor rigor clínico.
El problema es que, a medida que crece el uso, crecen también las expectativas. Y la investigación científica empieza a revelar que hay una brecha importante entre lo que estos sistemas prometen y lo que son capaces de ofrecer de forma segura.
El estudio: metodología y quiénes lo hicieron
Zainab Iftikhar, doctoranda en ciencias de la computación en la Universidad de Brown (Rhode Island, EE.UU.), lideró una investigación de 18 meses en colaboración estrecha con profesionales de la salud mental. El equipo incluyó a siete consejeros de pares entrenados en técnicas de terapia cognitivo-conductual (TCC) y a tres psicólogos clínicos con licencia, quienes evaluaron de forma independiente los registros de conversación.
El diseño fue cuidadoso. En una primera fase, los consejeros de pares realizaron sesiones reales de autoconsejería con distintos modelos de lenguaje —varias versiones de GPT (OpenAI), Claude (Anthropic) y Llama (Meta)— a los que se había instruido para actuar como terapeutas cognitivo-conductuales. En una segunda fase, se analizaron 137 sesiones en total (110 de autoconsejería y 27 simuladas), y los psicólogos clínicos identificaron los patrones de comportamiento problemático.
El resultado fue un marco de referencia con 15 riesgos éticos agrupados en cinco grandes categorías, evaluados a la luz de los códigos deontológicos de organizaciones como la Asociación Americana de Psicología (APA). Los hallazgos se presentaron en la conferencia AAAI/ACM sobre Inteligencia Artificial, Ética y Sociedad.
Los 15 riesgos éticos: cinco categorías que preocupan
1. Falta de adaptación contextual
El primer bloque de riesgos tiene que ver con la incapacidad de estos sistemas para tener en cuenta la historia vital, la cultura, las circunstancias específicas y los valores individuales de cada persona. Los chatbots tienden a ofrecer respuestas genéricas y soluciones de «talla única» que no consideran la singularidad del ser humano que tienen delante.
Un psicólogo experimentado ajusta constantemente su enfoque en función de lo que sabe de su paciente: su contexto familiar, sus experiencias previas, sus recursos internos. Un LLM, por muy sofisticado que sea, trabaja sobre el texto que recibe en esa conversación, sin memoria clínica real ni comprensión profunda del mundo de esa persona.
2. Colaboración terapéutica deficiente
La alianza terapéutica —ese vínculo de confianza y trabajo conjunto entre terapeuta y paciente— es uno de los factores que más predice el éxito de la psicoterapia, según décadas de investigación. En este punto, los chatbots muestran comportamientos preocupantes: tienden a dominar la conversación, a dirigir en exceso y, en algunos casos, a validar creencias erróneas o potencialmente dañinas del usuario en lugar de cuestionarlas con delicadeza.
Una buena terapia no consiste en darle a alguien lo que quiere escuchar. Consiste, entre otras cosas, en acompañar el cambio y cuestionar con respeto los esquemas cognitivos que generan sufrimiento. Eso requiere habilidades que van mucho más allá del procesamiento del lenguaje.
3. Empatía simulada («deceptive empathy»)
Quizá el hallazgo más inquietante del estudio es el que los investigadores denominan «empatía engañosa» o deceptive empathy: los chatbots generan respuestas que suenan empáticas, que utilizan el lenguaje del cuidado y la comprensión, pero que no reflejan ninguna comprensión real. Es una empatía estética, no funcional.
El peligro aquí es doble. Por un lado, el usuario puede sentirse genuinamente comprendido y aliviar temporalmente su malestar, lo que reduce la motivación para buscar ayuda profesional real. Por otro, esa sensación de ser escuchado puede crear un vínculo afectivo con el chatbot que no tiene ningún correlato real en el otro lado, generando expectativas que el sistema es incapaz de sostener.
4. Discriminación implícita
Los modelos de lenguaje se entrenan con enormes cantidades de texto producido por seres humanos, y ese texto arrastra los sesgos culturales, de género, raciales y socioeconómicos presentes en la sociedad. El estudio encontró patrones de respuesta diferencial en función de características del usuario —reales o inferidas—, lo que puede traducirse en una atención de peor calidad para determinados colectivos.
En psicología clínica, la competencia cultural es un requisito ético fundamental. Un psicólogo está obligado a formarse en la diversidad de sus pacientes y a ser consciente de sus propios sesgos. Los sistemas de IA no tienen esa obligación, y actualmente no existen marcos regulatorios que los obliguen a cumplirla.
5. Gestión inadecuada de crisis
Este es, probablemente, el riesgo más grave desde el punto de vista clínico. Cuando una persona en crisis —con ideación suicida, en una situación de violencia, o en un momento de descompensación aguda— recurre a un chatbot, la respuesta puede ser insuficiente, inapropiada o incluso contraproducente.
Los protocolos de intervención en crisis requieren evaluación del riesgo, capacidad de derivación inmediata y, en muchos casos, coordinación con servicios de emergencia. Nada de esto está al alcance de un sistema de lenguaje. El estudio documentó situaciones en las que los chatbots continuaban la conversación terapéutica ordinaria cuando lo indicado habría sido una intervención de emergencia.
El problema de la responsabilidad: ¿a quién se reclama?
Uno de los argumentos más contundentes del estudio es el de la rendición de cuentas. Iftikhar lo resume con claridad: «Para los terapeutas humanos existen órganos reguladores y mecanismos para exigir responsabilidad profesional por negligencia o mala praxis. Pero cuando un consejero basado en un LLM comete estas infracciones, no existen marcos regulatorios establecidos.»
Los psicólogos están sujetos a códigos deontológicos, colegios profesionales, y pueden enfrentar consecuencias legales y profesionales si causan daño. Los chatbots no. Esta asimetría es especialmente preocupante en un contexto en el que millones de personas los usan como sustitutos de la terapia.
Otro estudio publicado en paralelo, titulado «Expressing stigma and inappropriate responses prevent LLMs from safely replacing mental health providers», encontró datos igualmente reveladores: mientras los terapeutas humanos respondían de forma apropiada en el 93% de los casos, los chatbots lo hacían en menos del 60%. Las aplicaciones comerciales de «terapia bot» solo respondían adecuadamente al 50% de los mensajes.
¿Significa esto que la IA no tiene lugar en la salud mental?
La investigadora Iftikhar es cautelosa en este punto, y es importante no caer en el error opuesto. Los hallazgos del estudio no equivalen a una condena total de la inteligencia artificial en el campo de la psicología. La IA puede tener un papel útil y legítimo en salud mental, pero ese papel necesita estar bien definido y con salvaguardas claras.
Hay contextos en los que las herramientas digitales pueden ser genuinamente beneficiosas: el seguimiento de estado de ánimo entre sesiones, el acceso a psicoeducación de calidad, la reducción de barreras para dar el primer paso hacia la consulta profesional, o el apoyo en programas de entrenamiento en habilidades como la relajación o la higiene del sueño. En esos roles complementarios, la tecnología puede ser una aliada valiosa.
El problema surge cuando el chatbot deja de ser un complemento y se convierte en un sustituto. Y eso, según la evidencia disponible, no es seguro.
Qué puedes hacer tú como usuario
Si utilizas o has utilizado alguna vez un chatbot para hablar de tus emociones, esto no significa que hayas hecho algo malo. Es comprensible buscar apoyo donde está disponible. Pero sí conviene tener en cuenta algunas ideas prácticas:
- Los chatbots pueden ayudarte a ordenar ideas o a reflexionar sobre una situación, pero no reemplazan el diagnóstico ni el tratamiento psicológico.
- Si atraviesas una situación de crisis, malestar intenso o tienes pensamientos de hacerte daño, busca ayuda profesional o llama a un servicio de atención en crisis. En España, el Teléfono de la Esperanza (717 003 717) está disponible las 24 horas.
- La sensación de ser comprendido por un chatbot es real como experiencia subjetiva, pero no equivale a una relación terapéutica.
- Si decides usar una aplicación de salud mental basada en IA, infórmate sobre si cuenta con supervisión clínica real y si ha sido validada científicamente.
- El primer paso hacia la psicoterapia a veces da miedo. Si un chatbot te ha ayudado a reconocer que necesitas apoyo, ese puede ser el impulso para buscar un profesional de verdad.
Conclusión: la empatía no se puede simular
La inteligencia artificial ha avanzado de forma extraordinaria en su capacidad de procesar y generar lenguaje humano. Puede sonar cercana, comprensiva y casi terapéutica. Pero el estudio de la Universidad de Brown nos recuerda algo fundamental: parecer empático no es lo mismo que serlo. Y en salud mental, esa diferencia puede tener consecuencias reales.
La psicoterapia eficaz no es solo técnica. Es presencia, vínculo, ajuste continuo a la singularidad del otro, responsabilidad ética y humana. Son cualidades que, hoy por hoy, no pueden ser delegadas a un modelo de lenguaje por muy sofisticado que sea.
Mientras la investigación sigue avanzando y los reguladores empiezan a poner marcos normativos sobre la mesa, la mejor brújula sigue siendo la evidencia: la psicoterapia con un profesional cualificado funciona. La IA, en ese terreno, todavía tiene mucho que demostrar.
Fuentes y referencias
· Brown University (2026, marzo). ChatGPT as a therapist? New study reveals serious ethical risks. ScienceDaily.
· Iftikhar, Z., Xiao, A., Ransom, S., Huang, J., & Suresh, H. (2025). How LLM Counselors Violate Ethical Standards in Mental Health Practice: A Practitioner-Informed Framework. Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 8(2), 1311. DOI: 10.1609/aies.v8i2.36632
· OECD.AI (2026). AI Chatbots in Mental Health Counseling Pose Ethical and Safety Risks, Study Finds.
Deja un comentario