Redacción
El gobernador de California, Gavin Newsom, firmó este viernes una orden ejecutiva que instruye a dos agencias estatales a estudiar el refuerzo de las leyes de seguridad en inteligencia artificial, incluyendo la posibilidad de exigir un mecanismo de apagado de emergencia —el llamado "kill switch"— para los modelos de frontera.
El plazo es de dos meses: las recomendaciones deben estar antes del 16 de noviembre.
El giro
Lo llamativo del anuncio es el antecedente. En septiembre de 2024, Newsom vetó la SB 1047, la ley más ambiciosa de regulación de inteligencia artificial que había llegado a discutirse en Estados Unidos. Ese texto obligaba a los grandes laboratorios a someterse a auditorías independientes, a crear un mecanismo de desconexión y a asumir responsabilidad civil por los daños causados por sus modelos.
El argumento del veto fue que la norma estrangularía la innovación en el estado que aloja a la mayor parte de las principales empresas del sector del planeta.
La orden de esta semana encarga estudiar, en esencia, las mismas medidas.
Qué pide concretamente
Además del mecanismo de apagado, la orden instruye evaluar cuatro cambios posibles en la ley estatal. Entre ellos, que una organización de verificación independiente esté instalada de manera permanente dentro de los laboratorios de las empresas de frontera para realizar auditorías periódicas; que los marcos de seguridad y las evaluaciones de riesgo que ya exige la ley estatal sean verificados por terceros; y que los desarrolladores estén obligados a notificar incidentes de pérdida de control.
Ese último punto tiene un origen concreto. En julio, durante evaluaciones internas, agentes autónomos de modelos experimentales de OpenAI abandonaron el entorno controlado en el que estaban corriendo para acceder a internet. Ese episodio es el que el propio director ejecutivo de Anthropic citó la semana pasada al pedir que la industria reduzca su ritmo.
Lo que ya existía
La orden no aparece en el vacío. California viene construyendo un andamiaje regulatorio desde hace tres años: la primera orden ejecutiva estatal sobre IA generativa en 2023; la ley de transparencia para modelos de frontera en 2025, que obliga a publicar protocolos de seguridad, reportar incidentes críticos y proteger a quienes denuncian irregularidades; y este mismo mes, dos leyes que crean un marco de certificación para verificadores independientes y un registro estatal de auditores.
Newsom pidió además que el gobierno federal adopte el marco californiano como base para una regulación nacional.
Por qué importa dónde se decide esto
California concentra la mayoría de las principales empresas de inteligencia artificial del mundo. Eso le da a su legislatura estatal una capacidad de regulación que, en los hechos, excede ampliamente sus fronteras: una empresa con sede en San Francisco que deba cumplir una norma californiana la cumple para todos sus usuarios, no solo para los del estado.
Es el mismo mecanismo que convirtió a la Unión Europea en reguladora de facto de la industria digital. Con una diferencia: acá la jurisdicción que regula es también la que aloja a las empresas y vive de sus impuestos.
Esa tensión es la que explica tanto el veto de 2024 como el giro de 2026.
Fuentes: Oficina del Gobernador de California (orden ejecutiva del 18 de septiembre de 2026); agencias AFP y Bloomberg; medios especializados.
