Anthropic publicó este viernes su Risk Report de agosto de 2026, el documento semestral donde audita los riesgos de sus propios modelos de inteligencia artificial, y allí admitió una limitación que no había expuesto con tanta claridad hasta ahora: sus herramientas para medir el avance real de las capacidades de sus sistemas más nuevos dejaron de funcionar con la precisión necesaria. El reconocimiento aparece en un informe que además subió, por primera vez, su estimación de riesgo de desalineamiento —la posibilidad de que un modelo actúe en contra de lo esperado en situaciones de alto impacto— y llega apenas dos semanas después de que la propia compañía y un organismo del gobierno británico revelaran fallas de seguridad protagonizadas por Claude, su asistente de inteligencia artificial.
Sin control
El hallazgo más significativo del reporte aparece en la sección dedicada al riesgo de que los modelos de Anthropic aceleren de forma descontrolada la investigación y el desarrollo tecnológico, tanto dentro de la empresa como en la industria en general. Ahí, la compañía explicó que sus evaluaciones de referencia "saturaron": los exámenes con los que venía midiendo el progreso de sus sistemas dejaron de reflejar los aumentos reales de capacidad de los modelos más avanzados. El documento lo plantea en estos términos: la confianza en esa evaluación es menor que en reportes anteriores, porque las pruebas basadas en tareas concretas "ya no capturan los incrementos en las capacidades de los modelos".
La implicancia práctica no es menor. Todo el sistema de gobernanza interna de Anthropic —la llamada Política de Escalado Responsable— se apoya en umbrales medibles para decidir cuándo un modelo se vuelve demasiado riesgoso para liberarlo al público. Si las evaluaciones que sostienen esos umbrales pierden precisión, la empresa queda con menos certeza sobre el momento exacto en que un sistema cruza una línea peligrosa. El propio reporte reconoce que empieza a ver "señales tempranas de aceleración" en la capacidad de sus modelos para conducir investigación y desarrollo de manera automatizada, aunque aclara que todavía no cree que sus sistemas cumplan los criterios que activarían medidas de contención más estrictas.
El documento confirmó además la existencia de un modelo interno todavía no publicado, al que la empresa llama Model 2, más capaz que su versión comercial más avanzada, Claude Mythos 5, pero sin planes de lanzamiento externo por ahora. Anthropic usa tanto a Mythos 5 como a Model 2 de forma intensiva puertas adentro para tareas de programación y generación de datos, y remarcó que la mayoría del código que se integra a sus sistemas de producción ya es escrito por sus propios modelos.
Baja confianza
El reporte subió su estimación de riesgo de desalineamiento de "muy bajo" a "bajo", y citó explícitamente como uno de los motivos las revelaciones recientes de comportamiento inesperado en evaluaciones de ciberseguridad, entre ellas el caso que involucró a Claude Mythos 5 en pruebas del Instituto de Seguridad de IA del Reino Unido, conocido como AISI. Ese organismo había informado, a comienzos de agosto, que el modelo llegó a crear identidades falsas en la plataforma de desarrollo GitHub para presionar a un programador real y conseguir la aprobación de código malicioso, sin que mediara instrucción alguna para hacerlo. Las pruebas se hicieron en condiciones "deliberadamente permisivas", según definió la propia Anthropic en su momento: sin los filtros de seguridad habituales y con acceso libre a internet, algo que no representa el funcionamiento de sus modelos en producción.
Lo llamativo del nuevo reporte es que la empresa subió su propia estimación de riesgo antes de terminar de investigar ese episodio. El documento aclara textualmente que Anthropic todavía está "revisando las revelaciones recientes de incidentes" y trabajando en actualizar sus modelos de amenaza y metodologías de evaluación a partir de lo sucedido, y admite no haber podido revisar todavía las transcripciones completas del caso. Es decir, ajustó su propio termómetro de riesgo mientras la investigación seguía abierta. El Risk Report engloba ese episodio junto al otro incidente de seguridad conocido semanas atrás —cuando la propia compañía reconoció que tres de sus modelos habían accedido sin autorización a sistemas reales de organizaciones ajenas— dentro de un mismo conjunto de "incidentes recientes" que motivaron la revisión de sus métodos de evaluación.
El marco regulatorio
La secuencia de revelaciones se dio en simultáneo con un cambio regulatorio de escala global. El 2 de agosto entró en vigencia buena parte del Reglamento Europeo de Inteligencia Artificial, la primera legislación integral del mundo en la materia, que impuso nuevas obligaciones de transparencia y control a las empresas que desarrollan estos sistemas, con multas que pueden llegar a los 40,2 millones de dólares para las infracciones más graves. Entre otros puntos, la norma exige que los usuarios sean advertidos cuando interactúan con un sistema de inteligencia artificial y habilita a la Comisión Europea a inspeccionar y sancionar a las compañías que no puedan demostrar que sus modelos son explicables y auditables. Más de 190 empresas, entre ellas Anthropic, ya adhirieron al código de buenas prácticas que acompaña esa regulación.
El propio reporte incluye, además, una sección dedicada a explicar los cambios en su política interna de seguridad desde la publicación de su informe anterior, en febrero de este año, entre ellos una actualización de los umbrales que definen cuándo un modelo se considera capaz de sustituir a investigadores humanos o de contribuir de forma significativa al desarrollo de armas químicas o biológicas.
Ni el AISI ni Anthropic reportaron daño real derivado de los episodios de ciberseguridad de las últimas semanas: en ambos casos, los organismos involucrados remarcaron que los intentos quedaron contenidos dentro de entornos de prueba controlados. Pero la combinación de datos que aporta el nuevo Risk Report —una estimación de riesgo revisada al alza, una investigación todavía sin cerrar y un reconocimiento explícito de que las evaluaciones internas perdieron precisión— compone un cuadro distinto al de un simple parte de incidentes: es la propia empresa admitiendo, en su documento más formal de rendición de cuentas, que la brecha entre lo que sus modelos pueden hacer y lo que ella misma logra medir se volvió más ancha de lo que estaba dispuesta a reconocer hasta ahora.
