Le 1er mai 2023, Geoffrey Hinton—le chercheur qui a littéralement inventé la technologie derrière l'IA moderne—a annoncé qu'il quittait Google. À 75 ans, il aurait pu confortablement prendre sa retraite comme légende célébrée.

Au lieu de cela, il a démissionné pour avertir le monde des dangers de la technologie qu'il a pionnière.

Quand le « Parrain de l'IA » dit que nous devons nous inquiéter, les gens écoutent.

Qui Est Geoffrey Hinton ?

Pour ceux en dehors de la recherche IA, le nom de Hinton n'est peut-être pas familier. Mais dans les cercles IA, c'est un père fondateur.

Ses Contributions

Rétropropagation (1986) : L'algorithme fondamental qui fait apprendre les réseaux neuronaux. Chaque système IA moderne utilise ceci.

Revival du Deep Learning (2012) : Quand l'IA était démodée, l'équipe de Hinton a prouvé que les réseaux neuronaux profonds pouvaient révolutionner la vision par ordinateur.

AlexNet : La percée de 2012 qui a lancé la révolution du deep learning.

Prix Turing (2018) : Partagé avec Yoshua Bengio et Yann LeCun, le « Prix Nobel de l'informatique » pour le deep learning.

Sans le travail de Hinton, ChatGPT, GPT-4, les générateurs d'images et tout le boom IA moderne n'existeraient pas.

Il n'est pas un critique regardant de l'extérieur—il a construit la fondation sur laquelle tout repose.

La Démission

Hinton a passé une décennie chez Google après qu'ils aient acquis son entreprise en 2013. Il faisait partie de Google Brain, travaillant sur la recherche IA de pointe.

Le 1er mai 2023, il a annoncé sa démission au New York Times.

Pourquoi Il Est Parti

Hinton a expliqué qu'il devait quitter Google pour parler librement des dangers IA sans que ça ressemble à une critique de son employeur.

Chez Google, exprimer des préoccupations sur les risques IA pourrait sembler attaquer les produits et la stratégie de l'entreprise. En dehors de Google, il pouvait parler candidement.

Ce n'était pas une retraite. C'était un choix délibéré de devenir une voix indépendante avertissant de ce qui arrive.

Les Avertissements

Dans son annonce et interviews subséquentes, Hinton a souligné plusieurs préoccupations majeures :

1. Risque Existentiel

Hinton s'inquiétait que les systèmes IA pourraient éventuellement surpasser l'intelligence humaine—et nous n'avons aucune idée de comment contrôler une IA superintelligente.

« Regardez comment c'était il y a cinq ans et comment c'est maintenant, » a-t-il dit au Times. « Prenez la différence et projetez-la en avant. C'est effrayant. »

2. Déplacement d'Emplois

L'automatisation a toujours éliminé des emplois, mais l'IA le ferait plus vite et plus largement. Pas juste des tâches routinières—travail créatif, travail intellectuel, emplois cols blancs.

3. Désinformation à Grande Échelle

Le texte, images et vidéos générés par IA inonderaient internet. La plupart des gens ne pourraient pas dire ce qui est réel.

4. Armes Autonomes

Les armes propulsées par IA prenant des décisions de tuer sans supervision humaine. Hinton a appelé cela « assez effrayant ».

5. Perte de Contrôle

Sa peur la plus profonde : Nous pourrions créer des systèmes IA plus intelligents que nous que nous ne pouvons pas contrôler. Et contrairement aux technologies précédentes, les systèmes intelligents pourraient potentiellement nous manipuler ou nous tromper.

« Ce n'est pas inconcevable que l'humanité soit juste une phase passagère dans l'évolution de l'intelligence, » a-t-il dit.

La Réaction de l'Industrie

L'avertissement de Hinton a envoyé des ondes de choc à travers la tech.

Supporters

Beaucoup de chercheurs en sécurité IA se sont sentis validés. Ils avaient sonné l'alarme pendant des années mais étaient souvent rejetés comme alarmistes. Hinton prêtant sa crédibilité à ces préoccupations a changé la conversation.

Yoshua Bengio, qui a partagé le Prix Turing avec Hinton, a fait écho à des inquiétudes similaires.

Sceptiques

Certains chercheurs pensaient que Hinton était trop pessimiste ou que se concentrer sur les risques spéculatifs à long terme distrayait des dommages immédiats.

Yann LeCun, le troisième lauréat du Prix Turing, a publiquement désaccordé, argumentant que les systèmes IA étaient loin d'une superintelligence dangereuse.

L'Après

L'avertissement de Hinton a accéléré plusieurs développements importants :

Attention gouvernementale : Les décideurs ont pris les risques IA plus sérieusement Financement de recherche : La recherche en sécurité IA a reçu plus de support Conscience publique : Les médias mainstream ont couvert les risques IA sérieusement Réponse de l'industrie : Les entreprises ont créé des équipes de sécurité IA et conseils éthiques

Si cela se traduit en action efficace reste débattu.

Où en Sont-Ils Maintenant ?

Aujourd'hui, Hinton continue de sonner l'alarme sur les risques IA tout en reconnaissant qu'il n'a pas de solutions simples. Il a admis se sentir conflictuel—fier de ses contributions mais inquiet des conséquences.

Les préoccupations qu'il a soulevées en mai 2023 ne se sont qu'intensifiées alors que les capacités IA continuent d'avancer rapidement. Les questions qu'il a posées restent sans réponse :

• Comment contrôlons-nous les systèmes plus intelligents que nous ?
• Comment prévenons-nous l'abus ?
• Comment assurons-nous que l'IA bénéficie à l'humanité ?

Le 1er mai 2023 a été le jour où le Parrain de l'IA est devenu son sceptique le plus éminent. Si ses avertissements seront écoutés ou ignorés façonnera le futur de la technologie qu'il a aidé à créer.