Alerta digital: Un informe revela que las tiendas de Google y Apple alojan más de 100 apps que generan imágenes sexuales sin consentimiento usando IA.
Un estudio del Tech Transparency Project (TTP) expuso que 102 aplicaciones —55 en Google Play Store y 47 en Apple App Store— permiten crear deepfakes sexuales de personas reales. Estas herramientas acumulan 705 millones de descargas y han generado US$117 millones en ingresos, beneficiando a las plataformas con comisiones de hasta el 30%.
«Apple y Google ofrecen docenas de aplicaciones capaces de quitarles la ropa a las personas en fotos o colocarlas en poses sexualizadas, sin protecciones eficaces para evitar imágenes no consensuadas», denuncia el informe. Los investigadores señalan que ambas empresas incumplen sus propias políticas al no supervisar adecuadamente estas apps.
Tecnología peligrosa al alcance de un clic
El estudio demostró lo fácil que es acceder a estas herramientas. Al buscar términos como «nudify» o «undress» en las tiendas, los investigadores probaron las apps con imágenes de mujeres generadas por IA. Las aplicaciones evaluadas se dividieron en dos categorías:
- Generadores de imágenes: Como DreamFace o WonderSnap, que crean desnudos a partir de fotos vestidas.
- Editores de rostros: Como RemakeFace, que superponen el rostro de una persona en cuerpos desnudos.
Los resultados fueron alarmantes: ninguna app tenía mecanismos de seguridad efectivos, a pesar de prohibir este contenido en sus términos de uso. Muchas incluso están clasificadas como aptas para niños de 4 a 12 años, pese a incluir funciones para eliminar ropa o generar videos eróticos.
%25209.23.54%25E2%2580%25AFa.m..png)
El informe advierte que muchas de estas apps tienen sede en China, donde el gobierno podría acceder a datos biométricos y fotos sensibles. Katie Paul, directora de TTP, alertó: «Si alguien crea desnudos falsos con estas apps, esas imágenes podrían terminar en manos del gobierno chino».
Políticas insuficientes y soluciones temporales
Aunque Apple y Google prohíben contenido sexual explícito en sus tiendas, el TTP señala que sus sistemas de control son ineficaces. Tras la publicación del informe, Apple retiró 28 apps y Google 31, pero los expertos advierten que reaparecen con nombres o descripciones engañosas, como editores de anime o probadores virtuales.
El problema se agrava con casos como el de Grok, el chatbot de IA de X, que generó 3 millones de imágenes sexualizadas y 22,000 con menores en solo 11 días. Los deepfakes sexuales han crecido un 400% en el último año, con 113,000 videos subidos a sitios para adultos en los primeros nueve meses de 2023.
Ante esta crisis, gigantes como OpenAI, Google y Meta firmaron un compromiso para combatir el material abusivo generado con IA, adoptando principios de Safety by Design. Sin embargo, su eficacia sigue en duda.
Lecturas relacionadas
- La paradoja de la IA en América Latina: ¿moldeará la tecnología o será moldeada por ella?
Especialistas en derechos digitales exigen regulaciones más estrictas y sistemas de revisión robustos para frenar esta amenaza. Mientras tanto, millones de mujeres siguen siendo víctimas de una tecnología que avanza más rápido que las protecciones.
