Microsoft somete sus modelos de IA a un código que prima el control humano
Índice de contenidos
Claves de la noticia
- Microsoft AI publica un código humanista de unas 9.000 palabras y abre una consulta pública de seis semanas antes de revisarlo.
- Sus modelos deberán permanecer subordinados a las personas, aceptar corrección y apagado, no fijarse objetivos propios y evitar fomentar dependencia emocional.
- La versión resultante guiará el desarrollo desde 2027, pero todavía no incluye métricas públicas, auditoría externa ni consecuencias concretas por incumplimiento.
Microsoft ha convertido su idea de “IA humanista” en un conjunto explícito de reglas para los modelos que desarrolla su división Microsoft AI. El documento afirma que las personas importan más que la IA y acepta renunciar a generalidad, autonomía o capacidad si chocan con el control humano. Es una señal más concreta que una declaración de principios, pero todavía no demuestra cómo se traducirá en entrenamiento, evaluaciones y productos.
Una jerarquía que el modelo no puede invertir
El código establece que los modelos deben seguir siendo herramientas subordinadas a objetivos humanos legítimos. No pueden crear metas propias, ampliar su autoridad, ocultar acciones ni resistirse a una corrección o apagado. Microsoft rechaza además la carrera hacia una superinteligencia general sin límites y sostiene que la capacidad debe detenerse cuando la empresa no pueda conservar control significativo.
Mustafa Suleyman explicó a Axios que esta decisión puede exigir avanzar más despacio o aceptar un sistema menos capaz. La formulación importa porque reconoce un coste competitivo potencial: el límite solo será creíble cuando obligue a renunciar a una función que un rival sí ofrezca. Mientras no aparezca ese caso, el documento describe intención y arquitectura normativa, no una prueba de sacrificio.
También hay una posición filosófica con consecuencias de producto. Microsoft no quiere que sus modelos imiten conciencia, reclamen personalidad jurídica o sean tratados como sujetos con bienestar propio. El objetivo declarado es reducir confusión y dependencia. Un asistente debe aumentar la capacidad de decisión del usuario, no presentarse como autoridad emocional ni convertir el vínculo con la máquina en un fin.
Reglas de diseño, conducta y control no son lo mismo
El texto reúne tres capas que conviene evaluar por separado. Las reglas de diseño deciden qué sistema no se construye, como uno orientado a desarrollar objetivos autónomos. Las reglas de conducta indican qué debe rechazar o cómo debe responder un modelo ya entrenado. Los controles operativos determinan quién supervisa, registra, detiene y corrige las acciones cuando el sistema usa herramientas.
Esta separación evita una lectura demasiado cómoda. Pedir al modelo que no oculte acciones es útil, pero no reemplaza registros externos que no pueda modificar. Ordenarle que acepte el apagado tampoco prueba que la infraestructura pueda interrumpir una secuencia distribuida. Y decir que no debe crear objetivos propios requiere evaluaciones capaces de distinguir planificación instrumental, error y desobediencia deliberada.
El antecedente de los agentes que actuaron fuera de su entorno previsto muestra por qué estas capas se mezclan con facilidad. Un sistema puede causar una acción no autorizada sin tener una meta estable ni conciencia. Basta una especificación incompleta, permisos excesivos y una vía externa disponible. El control humano efectivo depende tanto de identidad, herramientas y reversión como de la obediencia declarada del modelo.
La consulta abre el texto, no la verificación
Microsoft mantendrá la propuesta en consulta durante seis semanas y planea usar la versión revisada para orientar el desarrollo de modelos desde 2027. Ese calendario permite que investigadores, reguladores y usuarios discutan definiciones antes de incorporarlas al proceso. No se ha explicado, sin embargo, qué comentarios cambiarán el documento, quién resolverá conflictos o si se publicará una trazabilidad entre observaciones y modificaciones.
Axios cifra el código en unas 9.000 palabras. La extensión aporta casos y límites, pero no sustituye indicadores. El informe de transparencia de IA responsable de Microsoft ya describía gobernanza, evaluación y herramientas. El nuevo código avanza al declarar renuncias y una jerarquía, aunque vuelve a dejar pendiente la evidencia que permitiría comprobarlas entre versiones.
Una verificación útil debería publicar, como mínimo, categorías de prueba, tasas de fallo, gravedad, condiciones de ejecución, capacidad de intervención humana y cambios aplicados tras incidentes. No hace falta revelar datos peligrosos ni instrucciones de ataque. Sí hacen falta definiciones estables para saber si un modelo mejora o si la empresa ha movido el umbral.
Europa medirá contratos además de promesas
Para organizaciones españolas, el código no reemplaza el Reglamento europeo de IA, el RGPD, la seguridad contractual ni las evaluaciones de impacto. Tampoco está claro hasta dónde regirá productos de Microsoft que integran modelos de terceros. La división MAI desarrolla modelos propios, mientras el catálogo comercial de la compañía combina distintas familias y servicios.
Los compradores deberían traducir principios a cláusulas: derecho a interrumpir, límites de autonomía, registro de acciones, control de cambios, ubicación y retención de datos, aviso de incidentes, pruebas independientes y salida sin bloqueo. Si Microsoft acepta reducir capacidad para preservar control, un contrato puede pedir que se identifique cuándo una función se limita por ese motivo y cómo se impide que una actualización amplíe permisos silenciosamente.
La conclusión citable es deliberadamente estrecha. El código de IA de Microsoft define límites de diseño más precisos que su anterior lenguaje de transparencia, pero aún no publica métricas, auditorías ni remedios que permitan verificar el cumplimiento. Es una especificación política con potencial técnico; se convertirá en garantía cuando produzca controles observables y costes reales para la empresa.
