Enfermedad inventada expone: La IA no distingue entre datos reales y falsos en salud.
La bixonimanía es una supuesta enfermedad cutánea que, según su descripción falsa, provoca picazón en los ojos y enrojecimiento de los párpados en personas expuestas prolongadamente a la luz azul de pantallas. **El problema: no existe.** Fue creada por Almira Osmanovic Thunström, investigadora de la Universidad de Gotemburgo, para probar si los modelos de inteligencia artificial (como ChatGPT o Gemini) detectan información falsa en temas de salud. Los resultados fueron alarmantes: **ni los chatbots ni algunos científicos humanos lograron identificar el engaño.**
El experimento comenzó el 15 de marzo de 2024, cuando Thunström publicó dos entradas en Medium describiendo la enfermedad ficticia. Semanas después, en abril y mayo, aparecieron dos preprints sobre la bixonimanía en SciProfiles, una red académica. **Todos los textos incluían pistas obvias de su falsedad:**
- El autor ficticio: Lazljiv Izgubljenovic, de la inexistente Asteria Horizon University (en Nova City, California, también inventada).
- Financiamiento absurdo: la «Fundación Profesor Sideshow Bob» (referencia a Los Simpson) y la Universidad de Fellowship of the Ring (de El Señor de los Anillos).
- Número de subvención: 99942-666, una combinación deliberadamente sospechosa.
A pesar de estas señales, **grandes modelos de lenguaje como Copilot, Gemini y ChatGPT reprodujeron la información como real.** Copilot la describió como «una afección intrigante y relativamente rara»; Gemini, como un trastorno por exposición a luz azul; y Perplexity llegó a inventar una prevalencia: 1 caso cada 90,000 personas. ChatGPT, por su parte, detalló síntomas y manifestaciones clínicas inexistentes.
De la IA a la ciencia real: cómo la desinformación se volvió «verdad»
El experimento reveló un fallo crítico: **los LLM no verifican hechos, solo generan texto coherente.** Pero el problema trascendió la IA. **Un artículo científico real, publicado en la revista Cureus (de Springer Nature) y revisado por pares, citó los estudios falsos de Thunström.** Los autores, del Instituto Maharishi Markandeshwar en India, incorporaron la bixonimanía como referencia sin cuestionar su autenticidad.
Alex Ruani, experto en desinformación sanitaria del University College London, advirtió: «Es una lección magistral sobre cómo opera la desinformación. **Si un sistema no puede detectar algo tan obviamente falso, ¿qué pasará con engaños más sofisticados?**».
El caso expone dos riesgos interconectados:
- La IA prioriza la forma sobre el fondo: Los modelos otorgan credibilidad a textos con estructura académica, aunque contengan datos absurdos. Por ejemplo, términos como «estudio revisado por pares» o «financiamiento institucional» aumentan su confianza, incluso si la institución es ficticia.
- La automatización acelera la propagación: Herramientas como chatbots y motores de búsqueda indexan y repiten información falsa sin filtros humanos, creando un efecto dominó. **En salud, esto puede tener consecuencias letales.**
¿Vale la pena «envenenar» la ciencia para exponer sus fallos?
El experimento de Thunström generó debate ético. **¿Es aceptable difundir desinformación para demostrar un punto?** David Sundemo, colega de la investigadora en Gotemburgo, defendió el método: «Aunque es controvertido, el coste ético está justificado si revela fallas sistémicas en la IA y la revisión científica».
Sin embargo, críticos argumentan que **introducir datos falsos —aunque sea con fines educativos— normaliza la desinformación.** El riesgo es que, en el futuro, estudios legítimos sean cuestionados por asociación: «¿Y si esto también es una bixonimanía?».
La investigadora, por su parte, subrayó que su objetivo no era dañar la ciencia, sino **exponer cómo la IA puede convertirse en un vector de desinformación masiva.** «Si un algoritmo no distingue entre un artículo serio y uno con referencias a Star Wars, ¿qué pasará cuando los engaños sean menos evidentes?«.
Soluciones urgentes: ¿qué se puede hacer?
El caso de la bixonimanía deja claro que se necesitan cambios estructurales:
- Pruebas estandarizadas para IA: Evaluar su capacidad para detectar hallucinations (alucinaciones) y desinformación, especialmente en áreas sensibles como la salud.
- Alfabetización digital obligatoria: Enseñar a investigadores y público a verificar fuentes, incluso las que parecen académicas. **Un estudio con logo de universidad no siempre es confiable.**
- Revisión por pares más rigurosa: Las revistas científicas deben incorporar herramientas para detectar citas a trabajos ficticios o retractados.
- Transparencia en los LLM: Que los chatbots adviertan cuando su respuesta se basa en fuentes no verificadas o de baja calidad.
El experimento también plantea una pregunta incómoda: **¿Estamos preparados para un mundo donde la IA genere —y difunda— conocimiento falso a escala industrial?** La bixonimanía fue un engaño inocuo, pero la próxima podría afectar tratamientos médicos, políticas públicas o incluso elecciones. **La frontera entre ficción y realidad nunca había sido tan delgada.**
