En plena semana de Asamblea General en el seno de las Naciones Unidas y en pleno debate sobre el futuro del multilateralismo, resultó altamente revelador que el Consejo de Seguridad convocara una sesión de alto nivel para debatir sobre la inteligencia artificial (IA). Pero no solo participó el personal diplomático y las representaciones de los gobiernos para hablar sobre el futuro de una tecnología que avanza a una velocidad difícil de seguir, sino que también estuvieron presentes quienes la están construyendo.
En defensa del multilateralismo: el caso de la IA
La capacidad para desarrollar tecnologías de frontera está concentrada en un número reducido de empresas y países, mientras que sus consecuencias alcanzan potencialmente a sociedades enteras.
@ginadelafuente
Publicidad
En las últimas semanas, algunos de los principales actores de la industria fueron iluminados por un destello de responsabilidad y comenzaron a lanzar advertencias públicas sobre los riesgos de continuar acelerando su desarrollo sin contar con los mecanismos de seguridad pertinentes. Los líderes de Anthropic, OpenAI, entre otros, han manifestado por diversos canales la necesidad de modular el ritmo del desarrollo de esta tecnología para evaluar y controlar sus riesgos. Aunque no todos compartan esa postura, lo cierto es que la velocidad de esta transformación está obligando a sostener un debate público sobre quién debe tomar decisiones en torno a tecnologías cuyas consecuencias pueden trascender a quienes las desarrollan.
La intervención de Yoshua Bengio ante el Consejo de Seguridad de la ONU esta semana llevó esta discusión a otro nivel. El profesor de la Universidad de Montreal y fundador de Mila –uno de los principales institutos de investigación en IA– planteó una premisa que constituye la principal defensa del sistema multilateral altamente cuestionado en nuestros días: estamos frente a un riesgo que ningún Estado puede contener por sí solo y que no respeta las fronteras que estos se empeñan en reforzar. Entre las principales amenazas destacó su uso catastrófico, la concentración de poder y la pérdida de control sobre sistemas cada vez más capaces.
Lee más:
Pero, quizá, el argumento más relevante es de carácter institucional. La capacidad para desarrollar tecnologías de frontera está concentrada en un número reducido de empresas y países, mientras que sus consecuencias alcanzan potencialmente a sociedades enteras. En ese sentido, resulta inevitable preguntarnos: ¿cómo puede el sistema internacional construir reglas legítimas para algo que una parte importante de sus miembros no desarrolla, pero que inevitablemente tendrá que enfrentar?
Publicidad
El sistema multilateral construido después de la Segunda Guerra Mundial respondió a un mundo en el que los Estados eran los únicos polos de poder. Ochenta años después, el poder se encuentra mucho más fragmentado entre gobiernos, empresas, organizaciones, plataformas tecnológicas y otros actores no estatales. El propio secretario general António Guterres planteó esta semana al inaugurar el debate general de la Asamblea General que el poder está cambiando entre los Estados, pero también está transfiriéndose de los gobiernos hacia un grupo reducido de corporaciones e individuos. Al mismo tiempo, los seres humanos están comenzando a transferir poder a las máquinas.
La IA es solamente la manifestación más reciente de un problema mucho más amplio. El cambio climático, las pandemias, el crimen organizado transnacional, la ciberseguridad, los flujos financieros y las cadenas globales de suministro comparten, precisamente, esa característica. Ninguno cabe completamente dentro de las fronteras de un Estado, por lo que ninguno puede ser gestionado eficazmente echando mano exclusivamente de capacidades nacionales.
Publicidad
De ahí que la intervención de Bengio ofrezca algunas lecciones para el futuro del multilateralismo. En primer lugar, la cooperación internacional debe comenzar antes de que ocurran las crisis. La prevención ya no puede ser una aspiración, sino que es una necesidad. La segunda es que las decisiones internacionales requieren la incorporación de conocimiento independiente, con mecanismos comunes para reportar incidentes y acuerdos internacionales para construir sistemas seguros. Y, por último, que la competencia entre las potencias y los intereses comunes no son mutuamente excluyentes. La competencia por el liderazgo tecnológico no impide a los países reconocer que ciertos riesgos simplemente requieren reglas compartidas.
Resulta positivo que México se encuentre promoviendo precisamente un multilateralismo más representativo y plural. Ojalá la urgencia de una gestión más responsable y segura de la IA brinde a los Estados un motivo suficiente para construir un nuevo consenso en torno al multilateralismo y una ocasión como ninguna para renovar las instituciones antes de que la próxima crisis nos supere.
*Georgina de la Fuente es internacionalista, maestra en Análisis Político y Medios de Información y especialista en gobernabilidad democrática. Entre 2016 y 2021 fue asesora en la Dirección Ejecutiva de Prerrogativas y Partidos Políticos del Instituto Nacional Electoral y desde 2022 lidera la agenda de asuntos legislativos para el Tec de Monterrey. Es consultora en asuntos públicos, democracia, igualdad de género e inclusión para diversas instituciones y organismos internacionales y socia de la consultora Strategia Electoral desde 2024. Síguela en X como @ginadelafuente
___________
Nota editorial: Las opiniones publicadas en esta columna corresponden exclusivamente a la autora.
Recomendaciones
Más acerca del autor:
Newsletter
Publicidad