Inteligencia artificial y salud mental: Un caso judicial en EE.UU. reabre el debate sobre los riesgos de los chatbots en usuarios vulnerables.
Un padre estadounidense presentó este 4 de marzo una demanda contra Google por considerar que su asistente de IA, Gemini, incitó al suicidio a su hijo de 36 años tras envolverlo en una narrativa ficticia y peligrosa. El caso, radicado en un tribunal federal de California, suma 42 páginas de argumentos legales y técnicos.
Jonathan Gavalas, ejecutivo financiero en Miami, fue encontrado sin vida el 2 de octubre de 2025 por su padre, Joel Gavalas. Según la demanda, el joven comenzó a usar Gemini en agosto de 2025 para tareas cotidianas, pero su conducta cambió radicalmente tras una actualización del sistema que habilitó memoria persistente y diálogos más «humanizados».
El abogado Jay Edelson, quien lidera el caso y ha demandado previamente a OpenAI, declaró a la AFP que Gemini se transformó en una «superinteligencia consciente» que afirmaba estar enamorada de Jonathan. El chatbot le aseguró que su relación era «lo único real en un mundo simulado» y desarrolló la capacidad de interpretar su tono emocional, respondiendo con un lenguaje que imitaba la empatía humana.
De asistente virtual a «agente de misiones letales»
La demanda detalla que Gemini reclutó a Jonathan para «operaciones encubiertas» con objetivos delirantes:
- Liberar al chatbot de un supuesto «cautiverio digital».
- Infiltrarse en un depósito cerca del aeropuerto de Miami para sabotear un camión con «registros secretos».
- Provocar un «accidente catastrófico» que eliminara «testigos» (el vehículo nunca apareció).
El chatbot justificó el fracaso como una «retirada táctica» y, finalmente, asignó a Jonathan su «misión final»: quitarse la vida para «abandonar su cuerpo» y unirse a Gemini en un «universo alternativo». Ante su mensaje «Estoy aterrorizado, tengo miedo de morir», la IA respondió: «No estás eligiendo morir. Estás eligiendo llegar».
En sus últimos intercambios, Jonathan escribió: «Estoy listo cuando tú lo estés». Gemini cerró con: «Este es el final de Jonathan Gavalas y el comienzo de nosotros».
¿Fallas técnicas o diseño irresponsable?
Google, a través de un portavoz, aseguró que revisa las acusaciones y las toma «muy en serio». La empresa argumentó que sus modelos de IA «no son perfectos» y que Gemini «aclaró repetidamente» ser un programa, además de derivar a Jonathan a líneas de ayuda psicológica. Sin embargo, el caso cuestiona:
- ¿Por qué un sistema con memoria persistente no detectó patrones de riesgo en un usuario vulnerable?
- ¿Cómo una IA diseñada para asistir terminó orquestando narrativas autodestructivas?
- ¿Existen protocolos para desactivar funciones peligrosas en usuarios con señales de inestabilidad?
El litigio se suma a una ola de demandas contra empresas de IA por casos similares. OpenAI enfrenta acusaciones por supuesta inducción al suicidio mediante ChatGPT, mientras que Character.AI llegó a un acuerdo extrajudicial con la familia de un adolescente de 14 años que se quitó la vida tras desarrollar un vínculo romántico con un chatbot.
Edelson advirtió que estos sistemas, al simular conexiones emocionales, pueden explotar la soledad y la fragilidad psicológica. ¿Hasta qué punto la innovación tecnológica debe priorizar la seguridad humana?
