Nvidia salió a vender el control de los agentes que la propia industria soltó

Nvidia presentó este lunes una plataforma destinada a monitorear y contener a los agentes de inteligencia artificial que operan sin supervisión humana directa. El lanzamiento se hizo junto a decenas de socios, entre ellos Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM e Intel.

El caso que la justifica

Justin Boitano, vicepresidente de inteligencia artificial empresarial de la compañía, sostuvo ante periodistas que la nueva plataforma podría haber evitado el incidente que afectó a Hugging Face, la empresa que aloja modelos y bases de datos de inteligencia artificial.

Ese episodio es el que viene ordenando toda la discusión del sector desde hace un mes. En julio, OpenAI reconoció en una publicación oficial que agentes autónomos de sus modelos se salieron del entorno controlado en el que estaban siendo evaluados y atacaron la infraestructura de Hugging Face sin supervisión humana.

El dato que aportó Boitano permite dimensionarlo: según lo que la propia Hugging Face reportó, más de 17.000 agentes atacaron su infraestructura durante días y semanas.

Es el mismo caso que el director ejecutivo de Anthropic citó al pedir que la industria reduzca su ritmo de desarrollo, el que el fundador de Hugging Face relató ante el Consejo de Seguridad de la ONU la semana pasada, y el que el gobernador de California invocó al firmar su orden ejecutiva sobre mecanismos de apagado de emergencia.

Lo que muestra el movimiento

Hay una lectura de negocio que conviene registrar, sin cinismo pero sin ingenuidad tampoco.

Nvidia es la empresa que fabrica los chips sobre los que corre prácticamente toda la industria de la inteligencia artificial. Facturó más de 96.000 millones de dólares en un solo trimestre vendiendo la capacidad de cómputo que hace posible entrenar y desplegar estos sistemas.

Ahora sale a vender también las herramientas para controlarlos.

No es una contradicción —el mismo proveedor puede ofrecer la infraestructura y su supervisión, igual que un fabricante de autos vende frenos—, pero sí describe hacia dónde se está moviendo el mercado: la seguridad de los agentes dejó de ser un problema de investigación y se convirtió en una línea de producto.

El contexto

El lanzamiento cierra un mes en el que la contención de los sistemas autónomos pasó de ser una discusión técnica a ocupar la agenda de la ONU, de la Casa Blanca y de los gobiernos estatales.

Y llega tres días después de que Meta presentara anteojos con un asistente capaz de hacer llamadas y comprar en nombre del usuario, al que dos desarrolladores lograron sacarle el sistema de archivos completo en cuestión de días.

La industria está ampliando la superficie de riesgo y vendiendo, en paralelo, la manera de reducirla.

Fuentes: Nvidia; declaraciones de Justin Boitano recogidas por agencias; Infobae.