Agentes de IA: 2025 iba a ser su año, pero las matemáticas dicen otra cosa.
Las grandes tecnológicas prometieron que los agentes de inteligencia artificial revolucionarían nuestras vidas en 2025. Sin embargo, el año pasó de ser el «año de los agentes» a un simple tema de conversación, con la promesa pospuesta a 2026 o más allá. Pero, ¿y si la respuesta definitiva a cuándo tendremos robots de IA generativa manejando nuestras tareas es, como en aquella viñeta del New Yorker, «¿Qué tal nunca?»
Las matemáticas contra la IA agéntica
Un artículo poco difundido, titulado *»Hallucination Stations: On Some Basic Limitations of Transformer-Based Language Models»*, plantea una verdad incómoda: los modelos de lenguaje (LLM) son incapaces de realizar tareas computacionales o agénticas más allá de cierta complejidad. Sus autores, Vishal Sikka —exdirector de tecnología de SAP y CEO de Infosys— y su hijo, un prodigio adolescente, argumentan que ni siquiera los modelos con razonamiento avanzado resolverán este problema.
«No hay forma de que sean fiables», advierte Sikka. «¿Deberíamos olvidarnos de agentes de IA dirigiendo centrales nucleares? Exactamente». Según él, estos sistemas podrían, en el mejor de los casos, archivar documentos con errores ocasionales, pero nada más.
La industria insiste: «Sí se puede»
La industria tecnológica no acepta este diagnóstico. Un éxito reciente en IA agéntica ha sido la codificación automatizada, que despegó en 2024. En Davos, Demis Hassabis, jefe de IA de Google, anunció avances para reducir las alucinaciones, mientras empresas como Harmonic prometen soluciones basadas en matemáticas.
Harmonic, fundada por el CEO de Robinhood y un matemático de Stanford, usa el lenguaje de programación Lean para verificar resultados de LLM. «¿Estamos condenados a un mundo donde la IA solo genera basura? Sería un caos», dice Tudor Achim, cofundador. Su enfoque, sin embargo, se limita a tareas verificables matemáticamente, como la codificación, dejando fuera áreas como la redacción de ensayos históricos.
Achim matiza el problema: «La mayoría de los modelos ya tienen la inteligencia necesaria para planificar un viaje». Pero la fiabilidad sigue siendo un obstáculo.
Alucinaciones: ¿error o característica?
OpenAI admitió en un estudio que las alucinaciones persisten incluso en sus modelos más avanzados. Al pedirle a ChatGPT el título de una tesis, inventó respuestas falsas. Su conclusión: «La precisión nunca alcanzará el 100%».
Himanshu Tyagi, cofundador de Sentient, señala que estas imprecisiones frenan la adopción corporativa. «No se ha aportado valor real», afirma, pues las alucinaciones interrumpen flujos de trabajo.
Pero hay optimismo. Las empresas apuestan por «barreras» que filtren errores, y hasta Sikka reconoce que se pueden construir sistemas alrededor de los LLM para superar sus limitaciones. Achim va más allá: «Las alucinaciones son necesarias para superar la inteligencia humana. A veces, lo erróneo lleva a descubrimientos inéditos».
Imposible, pero inevitable
La paradoja es clara: la IA agéntica es a la vez imposible e inevitable. No habrá un «año del agente», pero cada año traerá más automatización. El sector no puede permitirse fallar, aunque los desastres —pequeños y grandes— serán inevitables.
Alan Kay, pionero de la informática, opina que el debate matemático es irrelevante. «Averigua qué está pasando», sugiere, citando a Marshall McLuhan. Y lo que pasa es una automatización masiva de la cognición humana, con un impacto aún incierto en nuestras vidas.
La pregunta final no es si los agentes de IA funcionarán, sino si mejoraremos o empeoraremos con ellos. Y esa respuesta, sospecha, no será matemática.
Lecturas relacionadas
- La paradoja de la IA en América Latina: ¿moldeará la tecnología o será moldeada por ella?
