Anthropic frena su alianza militar: ¿riesgo o estrategia para liderar la IA ética?

Equipo de desarrolladores analizando códigos de inteligencia artificial con gráficos de seguridad y ética en pantalla, destacando límites en armas autónomas

Guerra tecnológica: Anthropic se niega a ceder ante el Pentágono, poniendo en riesgo contratos millonarios.

La carrera por la supremacía en inteligencia artificial ha dejado en el ring a solo unos pocos competidores. Anthropic, creadora de los modelos Claude, se codea con gigantes como OpenAI y Google, destacando en áreas como la programación. Sin embargo, su momento de gloria podría verse empañado por una decisión polémica: rechazar el uso militar irrestricto de su tecnología, incluso si eso significa tensar su relación con el Departamento de Defensa de EE.UU.

El ultimátum del Pentágono

Presión máxima: El Departamento de Defensa exige a cuatro laboratorios de IA, incluido Anthropic, que permitan el uso de sus modelos para «todos los fines lícitos». Esto incluye el desarrollo de armas, operaciones de inteligencia y acciones en el campo de batalla. Mientras otras empresas podrían estar cediendo, Anthropic se mantiene firme en su postura, lo que ha llevado al Pentágono a reconsiderar su colaboración con la compañía.

Las líneas rojas de Anthropic

Dario Amodei y su equipo han sido claros: hay dos áreas que no negociarán. Un portavoz de la empresa declaró que, aunque están «comprometidos a utilizar IA de vanguardia en apoyo de la seguridad nacional de EE.UU.», mantienen «límites estrictos en torno a las armas totalmente autónomas y la vigilancia doméstica masiva». Estas restricciones, según el portavoz, no afectan las operaciones actuales del Departamento de Defensa.

El incidente que encendió la mecha

Operación en Venezuela: Según The Wall Street Journal, Claude habría sido utilizado en una operación militar estadounidense para capturar a Nicolás Maduro, en colaboración con Palantir. Anthropic, sin embargo, evitó confirmar o negar su participación en operaciones clasificadas, reiterando que cualquier uso de su tecnología debe alinearse con sus políticas de uso.

El contrato de US$200 millones firmado el año pasado entre Anthropic y el Departamento de Defensa ahora pende de un hilo.

¿Qué pierde Anthropic?

Un alto funcionario citado por Axios advirtió que «todo está sobre la mesa», incluyendo la posibilidad de reducir o incluso romper la relación con la compañía. Si esto ocurre, el Pentágono buscaría una «sustitución ordenada», lo que sugiere un proceso gradual. Mientras tanto, Anthropic se enfrenta a un dilema: mantener su postura ética o acceder a un mercado que podría consolidar su posición en la industria.

El dilema ético y económico

En un sector donde las empresas buscan justificar valoraciones estratosféricas y demostrar utilidad en entornos críticos, el sector de defensa se presenta como un escaparate y una fuente de ingresos invaluable. Sin embargo, también es un terreno minado de dilemas éticos. La decisión de Anthropic podría reforzar su imagen como una empresa comprometida con la seguridad y la ética, pero también podría cerrarle las puertas a contratos millonarios y alianzas estratégicas.

¿Estará Anthropic sacrificando su futuro por principios? La respuesta podría definir el rumbo de la IA en los próximos años.

En Xataka | Los centros de datos en el espacio prometen salvar el planeta. Y también arruinar la órbita terrestre

Referencia de contenido: consultar fuente original aquí