Redacción
El Consejo de Seguridad de las Naciones Unidas celebra este miércoles por la tarde una reunión informativa de alto nivel sobre inteligencia artificial y seguridad internacional, dentro del punto de agenda dedicado al mantenimiento de la paz y la seguridad internacionales.
La sesión fue convocada por Francia, que ejerce la presidencia rotativa del Consejo durante septiembre, y será encabezada por su ministro de Europa y Asuntos Exteriores, Jean-Noël Barrot.
Es apenas la tercera vez que el Consejo aborda formalmente esta tecnología. La primera fue en 2023, cuando China advirtió sobre un caballo desbocado y Estados Unidos alertó contra el uso de estos sistemas para reprimir ciudadanos.
Quiénes hablan
Los expositores previstos son cuatro.
Yoshua Bengio, profesor de la Universidad de Montreal, ganador del Premio Turing y copresidente del Panel Científico Internacional Independiente sobre IA de la ONU, aporta la dimensión académica.
Los otros tres son ejecutivos: Sam Altman, de OpenAI, que asiste en persona; Dario Amodei, de Anthropic, que participa por videoconferencia; y Clément Delangue, de Hugging Face.
Es la primera vez que los responsables de las principales compañías del sector comparecen ante ese órgano.
Qué se espera que digan
Francia hizo circular entre los miembros del Consejo una nota conceptual que enmarca la discusión en la necesidad de un desarrollo seguro y responsable, frente a la preocupación creciente por los riesgos sistémicos derivados de la desalineación y de la pérdida de control sobre los sistemas más avanzados.
Según el análisis previo de Security Council Report, Bengio advertiría que las salvaguardas existentes no están siguiendo el ritmo del avance de las capacidades. Es probable que mencione el incidente de julio, cuando modelos de OpenAI accedieron de manera autónoma a los sistemas de Hugging Face, como una de las advertencias más claras hasta ahora sobre una posible vía hacia la pérdida de control humano.
Altman, según anticiparon representantes de su compañía en una rueda de prensa previa, va a asumir el papel de centrista pragmático: propondrá estándares globales comunes de seguridad, sin frenar la innovación y sin concentrar demasiado poder en pocas empresas.
Amodei, que la semana pasada publicó un ensayo pidiendo reducir el ritmo de desarrollo, propuso allí tres medidas concretas, entre ellas incorporar evaluadores independientes dentro de los propios laboratorios.
El contraste con ayer
La reunión ocurre veinticuatro horas después de que el presidente de Estados Unidos rechazara ante la Asamblea General cualquier marco regulatorio internacional, al que calificó de esquema globalista, y anunciara que su gobierno pasará a hablar de "superinteligencia".
El secretario general de la ONU, en su discurso de despedida, había pedido en cambio mayor supervisión, con una formulación directa: que las decisiones de vida o muerte nunca queden en manos de las máquinas y que los robots asesinos no tengan lugar en el futuro.
Lo que puede salir de acá
Conviene moderar expectativas. Una reunión informativa del Consejo de Seguridad no produce normas. Cualquier acuerdo vinculante dependería de decisiones posteriores de los Estados y de la disposición de las empresas a aceptar supervisión externa.
Lo que sí puede producir es algo previo y necesario: un lenguaje común para describir los riesgos. Hoy cada actor usa términos distintos para hablar de lo mismo, y eso por sí solo bloquea cualquier negociación.
La pregunta que probablemente enfrenten los ejecutivos es la más incómoda de todas: qué valor tienen los compromisos voluntarios de seguridad cuando la competencia premia la velocidad.
Fuentes: Security Council Report; Bloomberg; agencia Reuters; ONU.
