En mars 2023, un nouvel assistant IA a lancé discrètement qui deviendrait l'un des principaux concurrents de ChatGPT. Mais Claude n'était pas construit par un géant tech ou une startup bien financée. Il était construit par des gens qui avaient quitté OpenAI spécifiquement parce qu'ils étaient inquiets de la sécurité IA.

Voici l'histoire de comment les préoccupations de sécurité ont créé une entreprise—et une approche véritablement différente pour construire l'IA.

L'Exode d'OpenAI

L'histoire de fondation d'Anthropic commence par un départ.

En 2021, plusieurs chercheurs seniors OpenAI—incluant Dario Amodei (VP Recherche) et Daniela Amodei (VP Personnes)—sont partis pour démarrer leur propre entreprise. Avec eux sont partis des scientifiques de recherche clés qui avaient travaillé sur GPT-3.

Leur raison ? Des préoccupations grandissantes sur la direction d'OpenAI.

Ce qui les Inquiétait

Les chercheurs partants sentaient qu'OpenAI priorisait la capacité plutôt que la sécurité. La pression pour concurrencer, pour publier des modèles puissants, pour commercialiser—tout cela avançait plus vite que la recherche en sécurité ne pouvait suivre.

Ils voulaient construire une entreprise où la sécurité n'était pas une réflexion après coup. Où la recherche en alignement IA se passait avant le développement des capacités, pas après.

En 2021, ils ont fondé Anthropic avec une mission claire : construire des systèmes IA sûrs et dirigeables.

IA Constitutionnelle : Une Approche Différente

L'innovation clé d'Anthropic n'était pas juste de faire un assistant IA. C'était la méthode : l'IA Constitutionnelle.

Comment Ça Marche

Au lieu d'apprendre du feedback humain sur chaque réponse (l'approche qu'OpenAI utilisait), Claude apprenait d'une « constitution »—un ensemble de principes gouvernant son comportement.

Ces principes incluaient des choses comme :

• Être utile, inoffensif et honnête
• Respecter la vie privée utilisateur
• Refuser les requêtes nuisibles
• Reconnaître l'incertitude
• Être réfléchi sur les sujets sensibles

Claude était ensuite entraîné à suivre ces principes constamment, les utilisant comme guidelines plutôt que d'avoir besoin de jugement humain sur chaque interaction unique.

Pourquoi Cela Comptait

L'IA Constitutionnelle offrait plusieurs avantages :

Transparence : Les règles gouvernant le comportement de Claude étaient écrites, pas cachées dans les données d'entraînement

Cohérence : Claude appliquerait le même cadre éthique à travers toutes les conversations

Itérabilité : Anthropic pouvait mettre à jour la constitution au fur et à mesure qu'ils apprenaient ce qui fonctionnait et ce qui ne fonctionnait pas

C'était une approche fondamentalement différente de l'alignement que les concurrents prenaient.

Le Lancement de Mars 2023

Claude a lancé discrètement en mars 2023, initialement via une API limitée pour développeurs.

Contrairement à l'explosion virale de ChatGPT, la sortie de Claude était mesurée. Anthropic a soigneusement intégré les utilisateurs, recueilli des retours et affiné l'expérience avant une sortie plus large.

Le Débat sur la Sécurité

Tout le monde n'était pas d'accord que le focus sécurité d'Anthropic était la bonne approche.

Les supporters argumentaient que l'IA Constitutionnelle représentait un progrès genuiste dans l'alignement IA et qu'Anthropic démontrait un développement responsable.

Les critiques questionnaient si la différence était réelle ou juste du marketing, et si « sécurité » était utilisée pour justifier d'avancer plus lentement que les concurrents.

Où en Sont-Ils Maintenant ?

Aujourd'hui, Anthropic est l'une des entreprises IA leaders, avec Claude 3.5 Sonnet (juin 2024) largement loué comme l'un des meilleurs modèles IA disponibles—surtout pour le codage.

Mars 2023 et le lancement de Claude était silencieux comparé à l'explosion virale de ChatGPT. Mais il a établi un chemin alternatif pour le développement IA—un où la considération soigneuse de la sécurité ne signifie pas sacrifier la capacité.