Évaluateurs indépendants de l'IA : le cas Anthropic-METR

Qui vérifie, en dehors de l'entreprise elle-même, qu'un modèle d'IA est sûr avant d'être mis entre les mains de millions d'utilisateurs ? Depuis le 15 octobre 2026, Anthropic répond en partie à cette question : l'entreprise a donné à une équipe de six évaluateurs indépendants de l'ONG METR un accès quasi salarié à ses modèles, ses outils internes et ses bureaux de San Francisco. Pour un dirigeant de PME qui confie déjà des données et des process à Claude ou à un concurrent, cette annonce pose une question simple : peut-on vérifier, de l'extérieur, qu'un fournisseur IA tient ses promesses de sécurité ?

En bref

• Anthropic a accordé le 15 octobre 2026 un accès de type salarié à six évaluateurs de METR (Model Evaluation & Threat Research), une ONG de Berkeley.
• METR peut publier ses analyses sans l'approbation d'Anthropic, qui ne peut imposer que des rédactions limitées (données clients, informations commercialement sensibles, architecture des modèles).
• Ce dispositif est le niveau le plus élevé d'un système à trois paliers d'évaluateurs externes qu'Anthropic met en place, avec SecureBio et Accenture à des niveaux d'accès inférieurs.
• Des observateurs (San Francisco Standard, Palisade Research) notent que les liens entre METR et les grands laboratoires d'IA restent étroits, ce qui interroge sur l'indépendance réelle de l'évaluation.
• Pour une PME, c'est un nouveau critère à ajouter à sa grille de choix de fournisseur IA : l'existence, ou non, d'audits de sécurité par un tiers externe.

Qui est METR et que vient-il d'obtenir chez Anthropic ?

METR (Model Evaluation & Threat Research) est une organisation à but non lucratif fondée fin 2023 à Berkeley par Beth Barnes, ancienne chercheuse chez OpenAI et DeepMind. Sa mission : évaluer les capacités et les risques des modèles d'IA de pointe pour le compte des laboratoires et, de plus en plus, du public.

Jusqu'à présent, METR travaillait surtout en examinant les rapports de risque que les laboratoires publient eux-mêmes, un peu comme un auditeur externe qui relit des comptes déjà préparés par l'entreprise. L'accès annoncé le 15 octobre 2026 change l'échelle : six membres de METR disposent désormais d'un espace de travail dans les bureaux d'Anthropic, du même matériel que les équipes internes de gestion des risques, et d'outils internes équivalents.

Point essentiel pour juger la crédibilité du dispositif : Anthropic ne peut pas opposer son veto aux conclusions de METR avant publication. L'entreprise peut seulement demander des rédactions dans des catégories prédéfinies et étroites : données de clients, informations commercialement sensibles, détails d'architecture pouvant faciliter un usage malveillant. METR, de son côté, peut signaler publiquement son désaccord si elle juge une rédaction abusive.

Pourquoi cette annonce arrive maintenant

Le calendrier s'explique par un enchaînement de pressions internes et externes sur les laboratoires d'IA.

Ce contexte compte parce qu'aucune loi fédérale américaine n'encadre aujourd'hui spécifiquement la sécurité des modèles d'IA de pointe. En l'absence de régulation contraignante, les laboratoires avancent par engagements volontaires, sous la pression de l'opinion, des pouvoirs publics locaux et de leurs propres chercheurs en sécurité. OpenAI a indiqué finaliser, de son côté, des contrats avec des évaluateurs externes.

Les limites de cette autorégulation

L'honnêteté impose de nuancer l'annonce plutôt que de la célébrer sans recul.

Jeffrey Ladish, de l'organisation Palisade Research et ancien salarié d'Anthropic, résume la difficulté : il est très difficile de trouver des talents en sécurité de l'IA qui n'ont aucun lien avec Berkeley ou avec les entreprises d'IA elles-mêmes. D'autres observateurs, comme le chercheur Brian Patrick Green de l'université de Santa Clara, proposent d'aller plus loin avec un comité de surveillance réunissant plusieurs organismes financés de façon indépendante, et des règles limitant les mouvements de personnel entre laboratoires et évaluateurs.

Autre élément à garder en tête : ce mois-ci, OpenAI aurait licencié trois chercheurs en sécurité pour avoir partagé des informations jugées sensibles avec un organisme externe non nommé, un épisode qui illustre les tensions encore non résolues autour du rôle de ces évaluateurs tiers.

Ce que ça change pour les PME qui choisissent un fournisseur IA

Une PME ne négocie pas directement avec METR ni avec les régulateurs californiens. Mais cette actualité donne des questions concrètes à poser avant de signer, ou de renouveler, un contrat avec un fournisseur IA.

Ce tableau illustre un point simple : « avoir un évaluateur externe » ne veut pas dire la même chose selon le niveau d'accès et le droit de publication qui lui est accordé. Une PME qui évalue un fournisseur IA, directement ou via son intégrateur, a intérêt à demander ce niveau de détail plutôt que de se satisfaire d'une simple mention « audité par un tiers » sur une page marketing.

FAQ

Qu'est-ce que METR ?

METR (Model Evaluation & Threat Research) est une organisation à but non lucratif basée à Berkeley, fondée fin 2023, spécialisée dans l'évaluation des capacités et des risques des modèles d'IA de pointe pour le compte des laboratoires et du public.

Anthropic peut-il empêcher la publication d'un rapport défavorable de METR ?

Non, pas directement. Anthropic ne dispose pas d'un droit de veto sur les conclusions de METR. L'entreprise peut uniquement demander des rédactions dans des catégories prédéfinies et étroites, comme les données clients ou certains détails d'architecture des modèles.

Ce type d'audit indépendant est-il obligatoire par la loi ?

Non. Aux États-Unis, aucune loi fédérale n'impose aujourd'hui ce type d'évaluation externe pour les modèles d'IA de pointe. Il s'agit d'un engagement volontaire d'Anthropic, pris dans un contexte de pression politique et publique croissante, notamment en Californie.

Une PME doit-elle exiger ce type d'audit de son fournisseur IA ?

Ce n'est pas une obligation, mais c'est un critère de choix pertinent à ajouter à sa grille d'évaluation, au même titre que la sécurité des données ou la conformité réglementaire. Demander si un audit externe existe, et quel pouvoir de publication il accorde, permet de mieux évaluer le sérieux d'un fournisseur.

Pour aller plus loin

La gouvernance de sécurité d'un fournisseur IA n'est qu'un critère parmi d'autres avant de bâtir ses processus sur un outil IA. Pour structurer ce choix plus largement, consultez notre guide pour bien choisir son modèle d'IA et découvrez comment d'autres PME ont construit leur stratégie IA dans nos retours d'expérience clients.