Guerra automatizada: Una startup de Silicon Valley convierte agentes de IA en sistemas de combate letales.
Scout AI, una empresa emergente de California, entrena modelos de inteligencia artificial para operar vehículos terrestres y drones explosivos sin supervisión humana directa. En una prueba reciente en una base militar no identificada, sus agentes localizaron y destruyeron un camión oculto en menos de 15 minutos, usando solo una orden de texto como guía.
«Tenemos que llevar la IA de nueva generación al ejército», declaró Colby Adcock, CEO de Scout AI, en diálogo con WIRED. Su hermano, Brett Adcock, lidera Figure AI, otra startup enfocada en robots humanoides. «Transformamos un modelo hiperescalable de chatbot en un combatiente autónomo», explicó Adcock.
La carrera por la IA en el campo de batalla
Scout AI es parte de un ecosistema de startups que adaptan tecnologías de IA civil para uso militar. Gobiernos como el de EE.UU. ven en estos sistemas la clave para mantener la superioridad bélica, lo que ha llevado a restricciones en la exportación de chips avanzados a China. Sin embargo, expertos como Michael Horowitz, exfuncionario del Pentágono, advierten que la imprevisibilidad de los grandes modelos de lenguaje (LLM) complica su implementación en entornos de alta criticidad.
«Es positivo que las startups de defensa integren IA, pero demostrar su robustez en ciberseguridad será un desafío mayúsculo», señaló Horowitz, actualmente profesor en la Universidad de Pensilvania. Los riesgos son palpables: en la demostración de Scout AI, un modelo con 100.000 millones de parámetros interpretó órdenes como «Destruye el camión azul a 500 m al este del aeródromo» y coordinó drones y vehículos terrestres para ejecutar la misión sin intervención humana.
El sistema opera en cascada: un modelo central (basado en código abierto modificado) delega tareas a agentes más pequeños, de 10.000 millones de parámetros, instalados en los drones y vehículos. Estos, a su vez, controlan subsistemas de navegación y ataque. En la prueba, los drones identificaron el objetivo, ajustaron su trayectoria y detonaron cargas explosivas al impactar.
El vehículo terrestre autónomo de Scout AI durante la demostración en California.
El proceso completo, desde la orden inicial hasta la explosión, tomó menos de 10 minutos. La tecnología, según Adcock, podría estar lista para despliegue en un año o más, aunque el Departamento de Defensa (DOD) ya ha firmado cuatro contratos con la empresa.
Autonomía vs. ética: ¿quién decide quién vive o muere?
Críticos como Collin Otis, cofundador de Scout AI, argumentan que su sistema cumple con las normas de intervención humana del ejército estadounidense y la Convención de Ginebra. No obstante, la idea de que una IA interprete órdenes de manera autónoma genera dilemas éticos: ¿Cómo garantizar que no confunda civiles con combatientes? ¿Qué pasa si un error algorítmico desencadena un ataque no deseado?
La guerra en Ucrania ya ha mostrado cómo drones comerciales pueden adaptarse para fines letales. Aunque estos sistemas suelen requerir supervisión humana, la tendencia apunta hacia una mayor autonomía. «La tecnología de Scout AI no ejecuta acciones a ciegas; replanifica en tiempo real según la intención del comandante», defendió Adcock. Sin embargo, Horowitz matiza: «No debemos confundir demostraciones con sistemas probados para el campo de batalla».
Drones equipados con IA de Scout AI durante la prueba de destrucción de un objetivo.
El futuro de la guerra: enjambres de drones con IA
Scout AI compite por un contrato del DOD para desarrollar un sistema de control de enjambres de vehículos aéreos no tripulados. La visión de Adcock es clara: «La autonomía heredada no puede adaptarse a escenarios dinámicos. Nuestra IA sí». Pero el escepticismo persiste. ¿Están los ejércitos preparados para delegar decisiones de vida o muerte en algoritmos?
Mientras tanto, la carrera armamentística de IA avanza. China, Rusia y otros actores globales invierten en tecnologías similares, acelerando un escenario donde la imprevisibilidad de los LLM podría convertirse en el mayor riesgo de todos.
Lecturas relacionadas:
- Cómo los drones comerciales se convirtieron en armas en Ucrania
- Los dilemas éticos de la IA en la guerra: ¿quién es responsable de un error?
- El Pentágono y la IA: entre la innovación y el control de daños
