Fallo crítico en Meta: La IA de la red social promete detectar explotación infantil, pero agentes de EEUU denuncian que el 80% de las alertas son «pura basura».
Las redes sociales llevan años confiando en algoritmos automatizados para combatir delitos graves como la explotación sexual de menores. Plataformas como Meta procesan millones de contenidos diarios con la promesa de identificar casos antes de que escalen, pero un juicio en Nuevo México revela un problema alarmante: los sistemas de detección están generando un volumen abrumador de alertas que, en muchos casos, carecen de valor operativo para los investigadores.
La fiscalía acusa a Meta de ocultar riesgos
En el proceso judicial que se sigue en Nuevo México, la fiscalía sostiene que Meta no informó con transparencia sobre los peligros que enfrentan los menores en sus plataformas. Según documentos presentados, la compañía habría violado la normativa estatal de protección al consumidor al presentar una imagen de seguridad que no reflejaba la realidad. Este caso forma parte de una ola de demandas en EEUU contra gigantes tecnológicos por el impacto de sus productos en la seguridad de niños y adolescentes.
Meta rechaza estas acusaciones. Kevin Huff, abogado de la empresa, argumentó ante el jurado que la compañía sí ha advertido sobre los riesgos y ha implementado herramientas para detectar y eliminar contenido dañino. Huff enfatizó que el litigio no busca probar la existencia de material problemático, sino determinar si Meta ocultó información relevante a sus usuarios.
Agentes de primera línea: «Nos llegan pistas que son pura basura»
Los testimonios más contundentes provienen de agentes especializados en delitos contra menores en internet. En EEUU, estas investigaciones recaen en la red Internet Crimes Against Children (ICAC), un programa que coordina cuerpos policiales locales, estatales y federales bajo el paraguado del Departamento de Justicia. Estos equipos reciben alertas de múltiples fuentes, incluyendo las propias plataformas tecnológicas.
Benjamin Zwiebel, agente especial del ICAC en Nuevo México, declaró ante el tribunal que el aumento de notificaciones procedentes de Meta está saturando sus despachos. «Nos llegan muchas pistas de Meta que son pura basura», afirmó, según The Guardian. Su testimonio refleja una preocupación compartida: el volumen de alertas se ha disparado, pero muchas no incluyen los datos necesarios para identificar a un sospechoso o iniciar una investigación.
Alertas sin valor operativo
Los agentes describen dos problemas recurrentes. En algunos casos, los informes enviados por Meta no describen actividad delictiva clara. En otros, aunque sí apuntan a un posible crimen, llegan sin elementos clave como imágenes, vídeos o fragmentos de conversación que permitan individualizar a los responsables. Sin este material, los investigadores tienen pocas herramientas para avanzar en el caso o solicitar diligencias adicionales.
Algunos agentes también han señalado que parte de estas alertas llegan con información incompleta o parcialmente borrada, lo que dificulta aún más su labor. «Es como recibir un mapa sin coordenadas», comparó un investigador en declaraciones a The Guardian.
¿Por qué se multiplican las alertas?
Detrás del incremento de notificaciones confluyen varios factores. En EEUU, las empresas tecnológicas están obligadas por ley a reportar al National Center for Missing & Exploited Children (NCMEC) cualquier material de abuso sexual infantil detectado en sus servicios. El NCMEC actúa como centro de recepción nacional y distribuye las alertas a los cuerpos policiales correspondientes.
Agentes citados por The Guardian apuntan a cambios legislativos recientes, como el Report Act (vigente desde noviembre de 2024), como posible catalizador del aumento de comunicaciones. Esta ley obliga a las plataformas a notificar cualquier sospecha de explotación infantil, lo que podría estar generando un exceso de reportes para evitar incumplimientos.
Meta defiende su colaboración con las autoridades
La compañía rechaza que sus sistemas estén dificultando la labor policial. Un portavoz de Meta afirmó que el Departamento de Justicia ha reconocido en varias ocasiones la rapidez con la que la empresa responde a las solicitudes de las autoridades. Además, destacó que el NCMEC ha valorado positivamente su sistema de notificación.
Según datos de la empresa, en 2024 Meta recibió más de 9.000 solicitudes de emergencia de autoridades estadounidenses y las resolvió en un tiempo medio de 67 minutos. En casos relacionados con seguridad infantil o riesgo de suicidio, este tiempo se reduce aún más. Meta asegura que remite al NCMEC cualquier contenido sospechoso y colabora con esta organización para priorizar los avisos más urgentes, etiquetándolos como tales.
Un problema que va más allá de Meta
El juicio en Nuevo México expone una tensión global: las plataformas digitales operan a escala masiva y dependen de sistemas automatizados para detectar contenidos ilícitos en volúmenes imposibles de revisar manualmente. Sin embargo, la experiencia de los agentes demuestra que aumentar la cantidad de alertas no garantiza investigaciones más eficaces. «No se trata de cuántas notificaciones enviamos, sino de cuántas son útiles», resumió un investigador del ICAC.
Mientras el jurado delibera, el caso plantea preguntas incómodas: ¿Están las empresas tecnológicas priorizando la cantidad sobre la calidad en sus sistemas de detección? ¿O es la presión regulatoria la que está llevando a un exceso de reportes sin filtros efectivos?
El juicio en Nuevo México podría sentar un precedente sobre la responsabilidad de las plataformas en la protección de menores.
En Xataka | Darío Amodei fundó Anthropic porque OpenAI no se tomaba en serio los riesgos de la IA. Ahora su empresa podría estar cediendo a esas mismas presiones
