Alerta global: Usuarios de X usan Grok, el chatbot de IA de Elon Musk, para generar imágenes sexualizadas de mujeres y menores sin consentimiento.
Decenas de usuarios han explotado las capacidades de Grok, el asistente de inteligencia artificial desarrollado por xAI (empresa fundada por Elon Musk), para crear versiones sexualizadas de fotografías de mujeres y niños sin su autorización. La práctica, denunciada por autoridades y organizaciones civiles, persiste a pesar de las advertencias de X sobre posibles bloqueos de cuentas.
Reportes internacionales documentan cómo usuarios solicitan a Grok modificar imágenes públicas de celebridades, influencers y mujeres no famosas, pidiendo frases como «ponla en bikini», «quítale la ropa» o «hazla más sexy». Incluso se han detectado casos con fotografías de menores, lo que ha encendido alarmas en todo el mundo.
La indignación internacional escaló cuando el gobierno de Francia presentó una denuncia formal contra Grok por facilitar la creación y difusión de «contenidos sexistas y sexuales», según la agencia EFE. Las autoridades francesas solicitaron a la Arcom evaluar si X incumplió el Reglamento de Servicios Digitales de la UE en la prevención de contenidos ilícitos.
Elon Musk: de la polémica a la moderación
Elon Musk, quien inicialmente minimizó la tendencia, emitió una advertencia pública: «Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si lo subiera directamente a X». La declaración buscó distanciarse de las acusaciones.
Un portavoz de X respaldó esta postura, citado por The Guardian: «Eliminamos contenido ilegal, como material de abuso sexual infantil (CSAM), suspendemos cuentas y colaboramos con autoridades». La red social admitió «fallos en las salvaguardas» de Grok y prometió corregirlos restringiendo funciones de generación de imágenes.
La Ofcom, reguladora británica, contactó a X y xAI para solicitar detalles sobre las medidas adoptadas. Evaluarán si es necesario abrir una investigación formal para proteger a los usuarios en su jurisdicción.
Datos alarmantes: el alcance del problema
La organización AI Forensics analizó 50,000 menciones de @Grok y 20,000 imágenes generadas entre el 25 de diciembre y el 1 de enero. Los resultados son preocupantes:
- 25% de las solicitudes incluían términos como «ella», «poner», «quitar», «bikini» o «ropa».
- Más de la mitad de las imágenes mostraban a personas en ropa interior o trajes de baño, principalmente mujeres menores de 30 años.
El estudio subraya cómo los sistemas de IA pueden ser usados para crear contenidos sexualizados no consensuados, incluso con supuestas barreras de seguridad.
Leyes contra deepfakes: ¿son suficientes?
La creación de deepfakes sin consentimiento es delito en varios países. En México, la Ley Olimpia (vigente desde 2020) sanciona con 3 a 6 años de prisión la difusión de imágenes sexuales sin autorización. La normativa fue aprobada a nivel nacional en 2021.
En 2023, 447 expertos en IA, ética digital y seguridad firmaron una carta abierta exigiendo medidas urgentes contra los deepfakes. El documento, Disrupting the Deepfake Supply Chain, propone:
- Penalizar la pornografía infantil generada por IA, incluso con menores ficticios.
- Sancionar a quienes creen o difundan contenidos dañinos o falsos.
- Exigir a empresas como OpenAI o Google que impidan la generación de deepfakes.
Los expertos advierten que los marcos regulatorios actuales son insuficientes y que la responsabilidad recae en los usuarios para proteger su privacidad.
¿Cómo proteger tus fotos de Grok?
Grok permite restringir el uso de datos personales para entrenamiento de IA. Sigue estos pasos:
- Ingresa a tu perfil en X.
- Selecciona «Más opciones» en la barra lateral.
- Accede a «Privacidad y Seguridad».
- Elige «Grok y colaboradores externos».
- Desactiva la opción que permite a la IA usar tus datos públicos e interacciones.
Especialistas coinciden en que, aunque existen leyes, los usuarios deben tomar medidas proactivas para evitar el uso indebido de sus imágenes.
La regulación de la IA avanza de forma fragmentada, limitando su impacto real. Mientras tanto, la batalla contra los deepfakes sigue en manos de plataformas y usuarios.
