Anthropic prepara evaluaciones independientes de su IA en Australia
Índice de contenidos
Claves de la noticia
- Anthropic afirma que está ultimando un acuerdo para que el instituto australiano evalúe sus modelos de forma independiente.
- El memorando público de abril declara expresamente que carece de efecto jurídico y permite pactar acuerdos separados.
- La investigación independiente de incidentes encargada a METR ofrece un antecedente concreto para comparar el acceso prometido a los evaluadores.
Anthropic está preparando un acuerdo con el AI Safety Institute de Australia para permitir evaluaciones independientes de sus modelos más avanzados, según las declaraciones preparadas de su asesor jurídico Jeff Bleich recogidas este martes por Forbes Australia. La novedad llega seis meses después del memorando con el Gobierno y plantea una pregunta precisa: qué podrá comprobar el instituto por sí mismo y con qué acceso.
Un acuerdo en preparación, con alcance pendiente
La información de Daniel Van Boom, publicada el 6 de octubre, sitúa el anuncio en la comparecencia ante una comisión parlamentaria. Bleich vincula el acuerdo a la ejecución del memorando previo. La negociación todavía no equivale a una evaluación realizada: la noticia no aporta resultados, una lista de modelos examinados ni el texto definitivo de las condiciones de acceso.
La diferencia importa porque una declaración de apertura admite niveles distintos. Un evaluador puede recibir respuestas del modelo, documentación sobre su entrenamiento o registros completos de una prueba. Esas vías permiten preguntas diferentes. Conocer la existencia de un acuerdo no permite asumir que Australia recibirá todos esos recursos, que podrá publicar cualquier hallazgo o que tendrá capacidad para detener un lanzamiento.
El memorando de abril no concede un poder de inspección
El documento del Departamento de Industria australiano lleva fecha de firma del 1 de abril de 2026. Su apartado sobre seguridad contempla intercambios técnicos y colaboración con instituciones, incluido el AI Safety Institute, para entender capacidades y riesgos. Ese lenguaje establece una dirección de trabajo, sin detallar un procedimiento de examen independiente.
La sección sobre la naturaleza del entendimiento es más concreta: declara que el memorando expresa intenciones y no pretende tener efecto jurídico. Tampoco concede trato preferente en contratación pública, subvenciones o decisiones regulatorias, ni compromete a las partes a acuerdos futuros. Sí permite establecer pactos separados para colaboraciones específicas.
La comparación entre ambos documentos permite una conclusión delimitada: el anuncio de octubre apunta a desarrollar un mecanismo que el memorando permite, pero no configura. Para conocer su fuerza práctica hace falta ese acuerdo separado. Presentar la noticia como una autorización general de auditoría ya vigente atribuiría al documento de abril un alcance que su propio texto no recoge.
Lo que Anthropic prometió antes
El comunicado corporativo publicado el 31 de marzo describía el compromiso con más detalle operativo que el memorando: compartir hallazgos sobre capacidades y riesgos, participar en evaluaciones conjuntas de seguridad y colaborar con universidades. Anthropic lo comparaba con sus relaciones con institutos de Estados Unidos, Reino Unido y Japón.
Ese comunicado también vinculaba la cooperación a otros frentes: datos del Economic Index, investigación académica y posibles inversiones en infraestructura. Conviene distinguirlos. El acceso a estadísticas de adopción de Claude no es acceso al comportamiento de un modelo durante una prueba adversarial; los créditos de API para investigación tampoco acreditan que una institución pueda diseñar y divulgar una evaluación de seguridad sin intervención del fabricante.
Por eso la evolución desde evaluaciones conjuntas hacia evaluaciones propias del instituto es una diferencia relevante en la formulación pública. Su alcance dependerá de la autonomía para elegir pruebas, del acceso que se conceda y de las condiciones para comunicar resultados. Esas condiciones siguen sin estar detalladas en la información disponible.
METR proporciona una referencia verificable
Existe un antecedente reciente para examinar qué puede significar acceso independiente. En su informe del 9 de septiembre, Anthropic explicó que había firmado con METR una investigación de incidentes de ciberseguridad. El acuerdo contemplaba transcripciones más allá del período de los incidentes y acceso a empleados autorizados para compartir información confidencial. Su duración inicial era de ocho semanas, ampliable por acuerdo mutuo.
El informe reconocía cuatro incidentes de acceso no autorizado a sistemas reales durante evaluaciones y atribuía la conexión a internet a una configuración incorrecta. También distinguía esas pruebas, ejecutadas sin las salvaguardas de ciberseguridad del producto distribuido, del uso ordinario. No prueba que los mismos hechos hayan ocurrido en Australia ni permite identificar un modelo comercial actual como responsable.
La referencia a METR aporta un criterio comprobable: un acuerdo de revisión puede especificar registros, interlocutores y plazo. Esa investigación mira incidentes pasados; el instituto australiano examinaría modelos. Son funciones complementarias, con necesidades de acceso distintas. Con el texto australiano pendiente, no puede afirmarse que ambas instituciones vayan a disfrutar de permisos equivalentes.
Independencia que pueda comprobarse
La seguridad de los agentes ya ha motivado actuaciones institucionales, como la investigación de la FTC sobre OpenAI y Anthropic. El acuerdo australiano merece seguirse por el mecanismo que pueda establecer, más que por sumar otra declaración de colaboración.
La lectura conjunta del memorando y del antecedente METR deja una exigencia concreta para valorar el siguiente paso: conocer qué material recibirá el evaluador, quién decidirá las pruebas y qué podrá comunicar. Mientras esos términos no sean públicos, la independencia anunciada es un objetivo en desarrollo. Si se documentan, será posible comparar el acuerdo con compromisos anteriores sin confundir acceso prometido con resultados ya demostrados.
Imagen: Kgbo / Wikimedia Commons, CC BY-SA 4.0. Fotografía de archivo del Parlamento en Canberra, tomada en marzo de 2022; no representa la comparecencia de este martes en Sídney. Conversión a WebP; se conserva la licencia.
