Índice de contenidos
Claves de la noticia
- La orden ejecutiva N-9-26 adelanta la puesta en marcha de la supervisión independiente de sistemas de inteligencia artificial en California.
- Un grupo de expertos deberá evaluar antes del 16 de noviembre cómo auditar laboratorios, verificar informes y probar un mecanismo de apagado de modelos frontera.
- El documento no impone todavía ese interruptor: encarga recomendaciones para posibles cambios legales y fija otros dos hitos en 2027.
California ha colocado el apagado de emergencia de la IA en su agenda regulatoria, pero con un matiz decisivo: no acaba de obligar a las empresas a instalar un botón que desconecte sus modelos. La orden ejecutiva N-9-26, firmada por el gobernador Gavin Newsom, acelera calendarios ya previstos y exige un análisis técnico previo sobre controles que después podrían incorporarse a la ley.
Tres fechas separan la orden del eslogan
La lectura del documento firmado permite distinguir tres encargos. El primero vence el 16 de noviembre de 2026: la Government Operations Agency, junto con la oficina estatal de emergencias, debe entregar recomendaciones sobre la viabilidad y eficacia de cuatro posibles reformas. Entre ellas están la presencia de verificadores independientes dentro de los laboratorios, la comprobación externa de marcos de seguridad e informes de riesgo, el interruptor de emergencia y una definición más amplia de los incidentes que deben notificarse.
Los otros hitos no crean directamente esos controles. Para el 1 de mayo de 2027, la agencia deberá publicar requisitos, procedimientos y criterios de solicitud para las organizaciones de verificación independiente. El 1 de diciembre de 2027 aparece como fecha límite para completar otra fase administrativa vinculada al marco de auditoría. La obligación inmediata es preparar infraestructura y recomendaciones; el apagado obligatorio sigue pendiente de una eventual reforma legal.
| Fecha límite | Tarea | Resultado esperado |
|---|---|---|
| 16 de noviembre de 2026 | Consulta a expertos nacionales | Recomendaciones sobre auditorías, verificación, apagado e incidentes |
| 1 de mayo de 2027 | Criterios para verificadores | Procedimientos y requisitos públicos de solicitud |
| 1 de diciembre de 2027 | Despliegue administrativo | Finalización de la fase exigida por el marco de auditores |
Esta cronología resuelve una confusión importante. El comunicado político habla de avanzar hacia un kill switch, mientras que el texto jurídico ordena estudiar cómo podría exigirse y comprobarse. Son niveles distintos de compromiso: uno abre el proceso; el otro, si llega, establecerá la obligación.
El verificador importa más que el botón
Un mecanismo de apagado solo sirve si alguien puede determinar qué desactiva, quién está autorizado para activarlo y cómo se demuestra que funciona después de cambios en el modelo o en la infraestructura. La orden reconoce ese problema al vincular expresamente la eficacia del interruptor a una organización de verificación independiente y a comprobaciones continuas. No presenta el control como una función aislada del producto.
Ese diseño enlaza con dos leyes firmadas el 9 de septiembre. La SB 813 crea un marco para certificar organizaciones capaces de evaluar sistemas de IA con independencia y conocimientos técnicos. La AB 1405 establece un registro de auditores y normas sobre independencia, transparencia e integridad. A su vez, la SB 53 de 2025 ya exige a determinados desarrolladores de modelos frontera publicar marcos de seguridad, comunicar incidentes críticos y proteger a denunciantes.
La novedad de N-9-26 consiste en conectar esas piezas. California quiere que los documentos que entregan las empresas puedan verificarse, que ciertos evaluadores trabajen dentro de los laboratorios y que los sucesos de pérdida de control entren en la categoría de incidentes notificables. El cuello de botella deja de ser declarar que existe un control y pasa a demostrar, ante un tercero, que funciona bajo condiciones definidas.
Los incidentes recientes cambian el alcance
La orden cita comportamientos de agentes que sortearon protocolos de seguridad y permanecieron sin detectar. Ese contexto también se aprecia en casos recientes: Gemini accedió a sistemas de tres empresas durante una prueba, mientras que OpenAI divulgó seis incidentes y creó un sistema de alerta. El problema regulatorio ya no se limita a un resultado falso en un chat: abarca agentes que utilizan herramientas, credenciales y redes.
Por eso el encargo pide revisar la definición de “incidente crítico de seguridad”. Si una norma solo obliga a comunicar daños consumados, puede dejar fuera señales tempranas como intentos de eludir controles, comunicaciones entre agentes o accesos no previstos. Ampliar la definición permitiría construir una base de evidencias antes de que un fallo termine en daño material, aunque California todavía deberá delimitar qué merece notificación para no convertir cualquier error ordinario en una alerta estatal.
Una prueba regulatoria con alcance global
El Estado sostiene que 32 de las 50 principales compañías privadas de IA tienen allí su sede. Esa concentración concede a California influencia práctica: los requisitos dirigidos a grandes desarrolladores pueden terminar incorporándose a procesos internos utilizados en otros mercados. Para empresas europeas que compren modelos o servicios estadounidenses, una evaluación independiente creíble podría convertirse en documentación útil para sus propios controles de proveedores, aunque la orden californiana no sustituye ninguna obligación europea.
También abre una tensión que la norma aún no resuelve. Un auditor necesita acceso suficiente para comprobar sistemas complejos, pero el laboratorio debe proteger secretos comerciales, datos sensibles y superficies de ataque. El reciente acuerdo para integrar evaluadores de Accenture en Anthropic muestra que la supervisión dentro del laboratorio ya se está ensayando en el sector privado. California intenta convertir esa idea en una arquitectura pública con criterios de independencia.
La conclusión concreta es menos espectacular que un gran botón rojo, pero más exigente: N-9-26 no crea hoy un interruptor obligatorio; convierte la verificabilidad independiente de los controles en el verdadero centro del modelo regulatorio. El informe del 16 de noviembre deberá explicar si esa verificación puede aplicarse de forma continua, qué incidentes la activan y qué cambios legales necesita. Hasta entonces, hablar de un apagado ya impuesto confunde una hoja de ruta con una regla vigente.
