¿Quién verifica, fuera de la propia empresa, que un modelo de IA es seguro antes de llegar a millones de usuarios? Desde el 15 de octubre de 2026, Anthropic responde en parte a esta pregunta: la empresa dio a un equipo de seis evaluadores independientes de la ONG METR un acceso casi laboral a sus modelos, sus herramientas internas y sus oficinas de San Francisco. Para un dirigente de pyme que ya confía datos y procesos a Claude o a un competidor, este anuncio plantea una pregunta sencilla: ¿se pueden verificar desde fuera las promesas de seguridad de un proveedor de IA?
En resumen
- El 15 de octubre de 2026, Anthropic concedió un acceso de tipo laboral a seis evaluadores de METR (Model Evaluation & Threat Research), una ONG de Berkeley.
- METR puede publicar sus análisis sin la aprobación de Anthropic, que solo puede exigir redacciones limitadas (datos de clientes, información comercialmente sensible, arquitectura de los modelos).
- Este dispositivo es el nivel más alto de un sistema de tres niveles de evaluadores externos que Anthropic está implementando, con SecureBio y Accenture en niveles de acceso inferiores.
- Observadores (San Francisco Standard, Palisade Research) señalan que los vínculos entre METR y los grandes laboratorios de IA siguen siendo estrechos, lo que cuestiona la independencia real de la evaluación.
- Para una pyme, es un nuevo criterio que añadir a su lista de selección de proveedor de IA: si existe o no una auditoría externa de sus promesas de seguridad.
¿Quién es METR y qué acaba de obtener en Anthropic?
METR (Model Evaluation & Threat Research) es una organización sin fines de lucro fundada a finales de 2023 en Berkeley por Beth Barnes, exinvestigadora de OpenAI y DeepMind. Su misión: evaluar las capacidades y los riesgos de los modelos de IA de vanguardia por cuenta de los laboratorios y, cada vez más, del público.
Hasta ahora, METR trabajaba principalmente revisando los informes de riesgo que los propios laboratorios publican, de forma similar a un auditor externo que revisa cuentas ya preparadas por la empresa. El acceso anunciado el 15 de octubre de 2026 cambia la escala: seis miembros de METR disponen ahora de un espacio de trabajo en las oficinas de Anthropic, del mismo hardware que los equipos internos de gestión de riesgos, y de herramientas internas equivalentes.
Un punto clave para juzgar la credibilidad del dispositivo: Anthropic no puede vetar las conclusiones de METR antes de su publicación. La empresa solo puede solicitar redacciones en categorías predefinidas y estrechas: datos de clientes, información comercialmente sensible, detalles de arquitectura que podrían facilitar un uso malicioso. METR, por su parte, puede señalar públicamente su desacuerdo si considera que una redacción es abusiva.
Por qué llega este anuncio ahora
El calendario se explica por una serie de presiones internas y externas sobre los laboratorios de IA.
Septiembre 2026
Ensayo de Dario Amodei
Principios de octubre 2026
Almuerzo en la Casa Blanca
15 de octubre de 2026
Anuncio Anthropic-METR
17 de octubre de 2026
Primeras críticas públicas
Mediados de noviembre 2026
Plazo de California
Este contexto importa porque ninguna ley federal estadounidense regula hoy específicamente la seguridad de los modelos de IA de vanguardia. Ante la ausencia de regulación vinculante, los laboratorios avanzan mediante compromisos voluntarios, bajo la presión de la opinión pública, las autoridades locales y sus propios investigadores de seguridad. OpenAI ha indicado que está finalizando, por su parte, contratos con evaluadores externos.
Los límites de esta autorregulación
La honestidad exige matizar el anuncio en lugar de celebrarlo sin reservas.
Sin evaluador externo
El laboratorio se autoevalúa por completo. No hay verificación independiente de sus promesas de seguridad; la confianza depende únicamente de la comunicación de la empresa.
Con METR, pero un grupo de talento reducido
Existe una evaluación externa que puede publicarse sin veto del laboratorio. Pero los expertos capaces de realizar este trabajo suelen venir de los mismos círculos (Berkeley, antiguos empleados de los propios laboratorios), lo que limita la distancia crítica.
Jeffrey Ladish, de Palisade Research y antiguo empleado de Anthropic, resume la dificultad: es muy difícil encontrar talento en seguridad de la IA sin ningún vínculo con Berkeley o con las propias empresas de IA. Otros observadores, como el investigador Brian Patrick Green de la Universidad de Santa Clara, proponen ir más allá con un comité de supervisión que reúna a varias organizaciones financiadas de forma independiente, junto con reglas que limiten el movimiento de personal entre laboratorios y evaluadores.
Otro dato a tener en cuenta: este mes, OpenAI habría despedido a tres investigadores de seguridad por supuestamente compartir información sensible con un grupo externo no identificado, un episodio que ilustra las tensiones aún no resueltas sobre el papel de estos evaluadores externos.
Optimismo moderado
Una auditoría externa imperfecta sigue siendo mejor que la ausencia total de control. Es un avance a seguir, no una garantía definitiva: las pymes deben seguir exigiendo sus propias verificaciones contractuales, independientemente de lo que haga tal o tal laboratorio.
Qué cambia para las pymes que eligen un proveedor de IA
Una pyme no negocia directamente con METR ni con los reguladores californianos. Pero esta noticia ofrece preguntas concretas que plantear antes de firmar, o renovar, un contrato con un proveedor de IA.
Preguntar si existe una auditoría externa
Verificar la naturaleza del acceso otorgado
Ver quién puede bloquear la publicación
Cruzar con los criterios habituales
| Nivel de evaluador en Anthropic | Nivel de acceso | Derecho de publicación |
|---|---|---|
| METR (nivel superior) | Casi laboral, herramientas internas, espacio dedicado | Sí, sin veto de Anthropic (redacciones limitadas posibles) |
| SecureBio | Acceso intermedio, revisiones específicas | Sí, bajo condiciones acordadas de antemano |
| Otros evaluadores (incluido Accenture) | Acceso más restringido | Sujeto a aprobación antes de publicar |
Esta tabla ilustra un punto sencillo: "tener un evaluador externo" no significa lo mismo según el nivel de acceso y el derecho de publicación otorgados. Una pyme que evalúa un proveedor de IA, directamente o a través de su integrador, debería pedir este nivel de detalle en lugar de conformarse con una vaga mención de "auditado por un tercero" en una página de marketing.
Preguntas frecuentes
¿Qué es METR?
METR (Model Evaluation & Threat Research) es una organización sin fines de lucro con sede en Berkeley, fundada a finales de 2023, especializada en evaluar las capacidades y los riesgos de los modelos de IA de vanguardia por cuenta de los laboratorios y del público.
¿Puede Anthropic bloquear la publicación de un informe desfavorable de METR?
No, no directamente. Anthropic no tiene poder de veto sobre las conclusiones de METR. La empresa solo puede solicitar redacciones en categorías predefinidas y estrechas, como datos de clientes o ciertos detalles de la arquitectura de los modelos.
¿Es obligatorio por ley este tipo de auditoría independiente?
No. En Estados Unidos, ninguna ley federal exige actualmente este tipo de evaluación externa para los modelos de IA de vanguardia. Se trata de un compromiso voluntario de Anthropic, adoptado en un contexto de creciente presión política y pública, en particular en California.
¿Debe una pyme exigir este tipo de auditoría a su proveedor de IA?
No es obligatorio, pero es un criterio relevante que añadir a la lista de selección de proveedor, junto con la seguridad de los datos y el cumplimiento normativo. Preguntar si existe una auditoría externa, y qué poder de publicación conlleva, ayuda a evaluar la seriedad real de un proveedor.
Para saber más
La gobernanza de seguridad de un proveedor de IA es solo un criterio entre otros antes de construir sus procesos sobre una herramienta de IA. Para estructurar esta elección de forma más amplia, consulte nuestra guía para elegir bien su modelo de IA y descubra cómo otras pymes construyeron su estrategia de IA en nuestros casos de éxito de clientes.
