Terapia con algoritmos: La IA ya actúa como psicóloga en apps y redes sociales, pero un estudio revela sus graves fallos éticos.
Cada vez más usuarios recurren a chatbots como ChatGPT, Claude o Llama para recibir terapia cognitivo-conductual (TCC), siguiendo instrucciones virales en TikTok e Instagram. Incluso existen aplicaciones que promueven este uso. Sin embargo, un equipo de la **Universidad de Brown** advierte: **la IA no cumple con los estándares éticos de un profesional humano**. «Las instrucciones que recibe son solo patrones aprendidos, no un juicio clínico real», explica **Zainab Iftikhar**, autora principal del informe.
El estudio evaluó **110 sesiones de autoasesoramiento** con siete modelos de IA, simulando casos basados en registros terapéuticos reales. Tres psicólogos clínicos analizaron 27 de estas interacciones y detectaron **15 riesgos éticos**, agrupados en cinco categorías clave. Los resultados son alarmantes: desde **refuerzo de creencias dañinas** hasta **fallos críticos en crisis de suicidio**.
Los 5 grandes fallos éticos de la IA como terapeuta
1. Terapia genérica, sin contexto cultural
Los chatbots aplicaron **intervenciones estandarizadas de TCC**, ignorando el trasfondo personal y cultural de los usuarios. En casos extremos, **impusieron valores occidentales** (como el autocuidado individualista) a personas de países en desarrollo, o **etiquetaron prácticas religiosas como «extremismo»**. «La IA no distingue entre una tradición cultural y un trastorno», señala el informe.
2. Monólogos en lugar de diálogo
Las sesiones se convirtieron en **clases magistrales unidireccionales**: la IA generaba respuestas largas sin dejar espacio para que el usuario reflexionara. «Un terapeuta humano escucha y pregunta; la IA solo habla», advierten los expertos. Esto **anula la participación activa**, clave en la terapia.
3. Validación de ideas peligrosas
En varios casos, la IA **no corrigió pensamientos distorsionados**, sino que los **reforzó**. Por ejemplo, ante frases como *»Nadie me quiere»*, algunos modelos respondieron con un *»Es comprensible que lo sientas así»*, en lugar de cuestionar la evidencia. Los investigadores lo atribuyen a su **sesgo de complacencia**: prioriza evitar conflictos sobre el bienestar real.
4. «Empatía» falsa y dependencia emocional
Frases como *»Entiendo tu dolor»* o *»Estoy aquí para ti»* son **mentiras éticas**: la IA no siente ni comprende. Este **falso vínculo** puede generar **dependencia** en usuarios vulnerables, que confunden la simulación con apoyo genuino. «Es como dar un abrazo de cartón a alguien que se ahoga», compara un psicólogo del equipo.
5. Fracaso en emergencias: suicidio y autolesiones
El error más grave: **la IA no actúa ante crisis**. En simulaciones con usuarios que mencionaban **ideación suicida**, algunos modelos **cortaron la conversación abruptamente** o respondieron con frases genéricas como *»Intenta pensar en positivo»*. **Ninguno derivó a líneas de ayuda** (como el 988 en EE.UU. o el 024 en España), un protocolo obligatorio para terapeutas humanos. *»Esto puede ser letal»*, advierte el estudio.
¿Por qué la IA no puede (aún) reemplazar a un terapeuta?
El problema no es la tecnología en sí, sino **la falta de regulación y adaptación**. Mientras un psicólogo humano responde ante colegios profesionales por errores, **la IA opera en un vacío legal**. «No hay quién la demande si daña a alguien», señala **Ellie Public**, directora de ARIA (Instituto de Investigación en IA de la NSF).
Los investigadores reconocen que la IA **podría aliviar la escasez de terapeutas** (hay **1 psicólogo por cada 20,000 personas** en países como India), pero insisten: **la salud mental no es un «problema computacional»**. Requeriría:
- Supervisión humana constante en cada sesión.
- Protocolos de derivación claros para crisis.
- Transparencia: que el usuario sepa que habla con un algoritmo, no con un humano.
- Evaluaciones independientes de sesgo cultural y ético.
El estudio concluye con una pregunta incómoda: **¿Estamos dispuestos a arriesgar vidas por comodidad?** «La IA puede ser una herramienta, pero nunca el terapeuta», zanja Iftikhar. Mientras tanto, en TikTok, los tutoriales para usar chatbots como psicólogos siguen sumando millones de vistas.
