Le 29 mars 2023, le Future of Life Institute a publié une lettre ouverte avec une demande provocatrice : mettre en pause le développement IA pendant six mois.

La lettre avertissait de « risques profonds pour la société et l'humanité » et était signée par plus de 2 600 personnes, incluant Elon Musk, Steve Wozniak et des chercheurs IA éminents.

Les labos IA ont lu la lettre, reconnu les préoccupations, et continué à construire quand même. La pause n'est jamais arrivée—mais la conversation qu'elle a démarrée continue aujourd'hui.

L'Avertissement

La question d'ouverture de la lettre était brutale : « Devrions-nous laisser des machines inonder nos canaux d'information de propagande et mensonges ? Devrions-nous automatiser tous les emplois, y compris les épanouissants ? Devrions-nous développer des esprits non-humains qui pourraient éventuellement nous dépasser en nombre, en intelligence, nous rendre obsolètes et nous remplacer ? »

Ce n'étaient pas des préoccupations hypothétiques. GPT-4 venait de lancer. Les générateurs d'images créaient des faux photoréalistes. Les capacités IA progressaient plus vite que quiconque l'avait prédit.

Ce qu'Ils Proposaient

La lettre appelait tous les labos IA à « immédiatement mettre en pause pendant au moins 6 mois l'entraînement de systèmes IA plus puissants que GPT-4 ».

Pendant cette pause, labos et gouvernements devraient :

• Développer des protocoles de sécurité partagés
• Créer des systèmes de gouvernance IA robustes
• Implémenter audit et supervision
• Établir la responsabilité pour les dommages causés par l'IA

Si les labos ne mettaient pas en pause volontairement, les gouvernements devraient intervenir et imposer un moratoire.

Les Signataires

La liste des supporters était impressionnante et diverse.

Figures Tech :

• Elon Musk (bien qu'il développait simultanément sa propre entreprise IA, xAI)
• Steve Wozniak (co-fondateur Apple)
• Emad Mostaque (PDG Stability AI)
• Jaan Tallinn (co-fondateur Skype)

Chercheurs IA :

• Stuart Russell (auteur manuel IA)
• Yoshua Bengio (lauréat prix Turing)
• Gary Marcus (critique et chercheur IA)
• Max Tegmark (physicien, avocat sécurité IA)

Plus de 2 600 signataires initiaux, grandissant à plus de 30 000 dans les semaines suivantes.

Les Critiques

Tout le monde ne pensait pas que la lettre était une bonne idée.

L'Argument de l'Hypocrisie

Les critiques ont immédiatement souligné qu'Elon Musk développait sa propre entreprise IA (xAI) tout en appelant les autres à mettre en pause. Était-ce une préoccupation authentique ou une stratégie concurrentielle ?

Le PDG de Stability AI a signé la lettre pendant que son entreprise continuait de publier de nouveaux modèles. L'incohérence était flagrante.

L'Argument de l'Impraticabilité

Même les supporters reconnaissaient que la pause était peu probable. Qui l'appliquerait ? Et les labos en Chine, Russie ou autres pays hors influence occidentale ?

Une pause volontaire ne fonctionne que si tout le monde est d'accord. Dans une course compétitive, mettre en pause signifie prendre du retard.

La Réponse de l'Industrie

Les grands labos IA ont poliment ignoré la lettre.

OpenAI a continué à développer des améliorations GPT-4 et à travailler sur GPT-5.

Google a accéléré le développement de Bard et Gemini pour rattraper ChatGPT.

Anthropic a continué à construire Claude avec leur approche de sécurité « Constitutional AI ».

Meta a mis Llama 2 en open source juste quatre mois plus tard.

La pause n'est jamais venue proche de se produire.

Ce que la Lettre a Accompli

Malgré l'absence de pause réelle, la lettre a eu un impact.

1. Préoccupations de Sécurité Généralisées

Avant la lettre, les préoccupations de sécurité IA étaient surtout discutées dans les cercles académiques. La lettre les a amenées aux médias mainstream.

Soudainement, les gens ordinaires débattaient des risques existentiels IA. Les gouvernements ont prêté attention. La conversation a changé.

2. Pression pour Action Réglementaire

La lettre a donné aux décideurs la permission d'agir. Si les leaders tech eux-mêmes appelaient à des limites, la régulation semblait moins une interférence anti-innovation.

L'UE a accéléré l'AI Act. Le Royaume-Uni a organisé un Sommet de Sécurité IA. Les États-Unis ont créé une task force IA.

Où en Sont-Ils Maintenant ?

Aucune pause ne s'est produite. Le développement IA s'est accéléré si quelque chose. 2023 et 2024 ont vu une explosion de nouveaux modèles, capacités et applications.

Mais la conversation que la lettre a commencée continue. Les conférences de sécurité IA sont bondées. Les gouvernements du monde entier développent des régulations IA. Les entreprises ont créé des équipes de sécurité IA et des directeurs IA.

Mars 2023 n'a pas ralenti le développement IA. Mais cela a établi que les préoccupations sur les risques IA sont légitimes, mainstream, et méritent d'être prises au sérieux—même si la solution proposée n'a jamais été mise en œuvre.