Si logras esquivar las sesiones de programación en vivo en el escenario, los cursos de repaso sobre IA, una pista de obstáculos llena de artilugios y a gente que va de un lado a otro con unos auriculares verdes luminosos al estilo «silent disco» que te sueltan a todo volumen los debates de los paneles de la ONU en los oídos, podrás tomarte un respiro. Pero puede que te encuentres en la Zona de Networking, en un artilugio giratorio llamado UFOTECH que se parece más a una bandeja giratoria de las que hay en los restaurantes chinos que al banco de networking para el que está diseñado.
Se trata de la cumbre «AI for Good» (IA para el bien), organizada por la Unión Internacional de Telecomunicaciones (UIT) de las Naciones Unidas, donde representantes de los sectores público y privado intentan debatir cómo aprovechar la tecnología en beneficio de la humanidad, y no en su perjuicio.
Los ejecutivos de Silicon Valley y los responsables de los laboratorios de IA testifican ante los legisladores en Washington sobre los riesgos de la superinteligencia, y la Casa Blanca impone controles a la exportación de chips. Mientras tanto, la Cumbre AI for Good de la ONU (que celebra este año su décima edición) se centra en objetivos mucho más idealistas.
“Nuestra convicción de que la inteligencia artificial, si se utiliza de forma responsable, podría ayudar a resolver los problemas más acuciantes de la humanidad, desde el hambre hasta las enfermedades, pasando por el calentamiento global”, afirmó Doreen Bogdan-Martin, secretaria general de la UIT, en un discurso inaugural pronunciado en el escenario principal de la conferencia. “Hoy en día, esa idea se está poniendo a prueba, entre otras cosas por los retos que plantea la propia IA, incluso mientras nos esforzamos por utilizarla para el bien”.
El fin de la inocencia
Qué significa “el bien” (y qué aporta a la humanidad) fue una cuestión que estuvo presente a lo largo de toda la conferencia, que se desarrolló en un enorme centro de convenciones de 106,000 metros cuadrados situado en las afueras del distrito del aeropuerto de Ginebra. Las sesiones estuvieron marcadas por una creciente preocupación de que el despliegue indiscriminado por parte de monopolios corporativos sin control ya esté consolidando la desigualdad global y socavando los derechos humanos.
Para algunos que trabajan en primera línea, el barniz utópico de la industria tecnológica ya se ha desvanecido. En declaraciones al margen del evento, Giulio Coppi, alto funcionario humanitario del grupo de campaña Access Now, criticó la excesiva dependencia de los sectores humanitario y público en las grandes tecnológicas. “Deberíamos haber superado la era de la inocencia”, asegura Coppi, exigiendo que las organizaciones dejen de tratar a las empresas tecnológicas “como si fueran sus mejores amigas”. Señala una década de acuerdos opacos multimillonarios financiados con dinero público. “Ni siquiera se puede explicar qué hay dentro de su infraestructura tecnológica, porque ha estado cambiando constantemente”, advierte.
La oposición de Coppi fue moderada en comparación con la de otros: activistas pro-palestinos irrumpieron en el escenario durante un discurso del director de tecnología de Amazon, Werner Vogels, alegando que la tecnología de la compañía está siendo utilizada por Israel contra los palestinos, antes de ser finalmente expulsados del recinto.
“Cuando hablamos de IA, nos encanta la expectación, nos entusiasma”, señala Vijay Janapa Reddi, profesor de ingeniería en la Universidad de Harvard, entre el bullicio de las sesiones simultáneas durante una presentación. “Pero en la práctica, nunca llega a concretarse”. El problema, explica, es que “bueno” es un estándar demasiado vago para la ingeniería. “Para un ingeniero, bueno no significa nada. No puedo construirte algo que sea bueno. Un avión que vuela cinco minutos no sirve para nada”.
Quién puede usar la IA
Gran parte del debate global sobre la IA se centra ahora en el acceso: quién puede usar los modelos, quién puede comprar los chips y quién queda excluido de la economía de la computación. Esto explica, en parte, por qué la administración Trump implementó y luego levantó los controles de exportación sobre los principales modelos de IA de vanguardia, y, según se informa, China está considerando restringir el acceso a sus modelos de ponderación abierta. Restringir el acceso y excluir a los países más pobres puede generar dependencia de plataformas y estándares de infraestructura extranjeros.
En una sesión sobre el hardware de IA y la creciente brecha digital, los ponentes argumentaron que la computación ya no es meramente un problema tecnológico, sino un problema de desarrollo. “Si hablamos de IA para el bien común, es decir, de computación para todos, debemos reconocer que se trata de infraestructura de desarrollo, no solo de tecnología”, indica Syed Munir Khasru, presidente del Instituto de Política, Defensa y Gobernanza. Otros señalaron que la mayoría de los grandes modelos de lenguaje siguen estructurados en torno al inglés, lo que hace que sea esencial contar con modelos de lenguaje más pequeños y locales que funcionen con hardware más barato si se quiere que la IA sirva a comunidades más allá de los mercados más ricos.
La política de las infraestructuras (quién obtiene qué y quién controla qué) estuvo presente de forma constante a lo largo de toda la cumbre. La cuestión no era solo si la IA podía hacerse segura, sino si al mundo fuera del eje EE UU-China-Europa se le permitiría siquiera dar forma a la tecnología.
Reflexionar sobre los derechos y la representación del usuario final no suele ser propio de los debates sobre normas, opina Gilles Thonet, secretario general adjunto de la Comisión Electrotécnica Internacional. “Tradicionalmente, los ingenieros pueden considerar que los derechos humanos son asunto de otros”, explica a WIRED. “En realidad, no lo son”.
Anja Kaspersen, directora de desarrollo de mercados globales, tecnologías de vanguardia y críticas del IEEE, señala que las decisiones más trascendentales no se toman en asambleas de la ONU como esta, sino que se integran en una arquitectura oculta, en las normas técnicas y en las decisiones de contratación pública.
Para solucionar esto, argumenta, necesitamos crear un middleware: una capa conectiva que traduzca los principios de alto nivel de los derechos humanos en una aplicación técnica y verificable. Jeremy Ng, asesor en materia de IA y economía digital del Banco Mundial, hace hincapié en que las evaluaciones de impacto de la IA deben convertirse en herramientas prácticas con verdadero peso, en lugar de limitarse a ser un “teatro de gobernanza” o un mero trámite para que las gigantes tecnológicas cumplan con los requisitos.
Se habló mucho, pero quizá hubo menos acciones concretas; sin embargo, esa es precisamente la cuestión. Cumbres como estas requieren algún tipo de consenso para pasar a la acción, y la ONU promocionaba la creación de una comisión de 44 miembros diseñada para impulsar la “IA para el bien”, copresidida por el presidente de Ruanda, Paul Kagame, y el director ejecutivo de Salesforce, Marc Benioff. “Ninguna parte interesada puede forjar el futuro de la IA por sí sola”, advirtió Bogdan-Martin en su discurso inaugural. «Necesita creadores. Los necesita a ustedes».
El problema era que, mientras se desarrollaban todos esos debates, en el bullicioso recinto ferial (donde se exhibían los Cybertrucks de Tesla junto a helicópteros de rescate de la ONU), un puñado de robots humanoides corrían entre los stands ante las miradas y los gestos de asombro de los asistentes humanos. Los robots con IA corrían bastante rápido. Y no es difícil pensar que la tecnología ya se estaba adelantando al consenso para definir qué significa “bueno”.
Artículo originalmente publicado en WIRED. Adaptado por Mauricio Serfatty Godoy.
