ARTICLE – « DES CHOSES PLUS INTELLIGENTES QUE NOUS »: LE « PÈRE DE L’IA » TOUJOURS PLUS INQUIET POUR LA SURVIE DE L’HUMANITÉ

Le 30/12/2024 BFM IA

Geoffrey Hinton, dernier prix Nobel de physique et considéré comme un des pères de l’IA, estime entre 10 et 20% les chances de survie de l’humanité face à des IA non réglementés.

Un rare exemple où l’inventeur regrette son invention. Le britano-canadien Geoffrey Hinton est considéré comme l’un des pères de l’intelligence artificielle. Mais après avoir quitté le monde de la recherche, le scientifique affiche une position très pessimiste quant au devenir de l’IA. Dans une interview donnée sur la radio britannique BBC Radio 4 le 28 décembre, le chercheur estime que l’IA a « entre 10 et 20% de chance » de mener l’humanité à son extinction dans les 30 prochaines années.

« Des choses plus intelligentes que nous »

Ce n’est pourtant pas le premier cri d’alerte du chercheur. En octobre 2023 sur X, Geoffrey Hinton faisait déjà ses pronostics: 10% de chances « que l’IA, si elle n’est pas fortement réglementée, conduira à l’extinction de l’humanité dans les 30 prochaines années ». Aujourd’hui, il estime ce risque à 20%, témoignant de l’inquiétude grandissante du chercheur.

Le chercheur redoute que la puissance de l’IA n’échappe aux mains de ses créateurs en les surpassant. Il argumente sur l’antenne de la BBC:

« Nous n’avons jamais eu à faire avec des choses plus intelligentes que nous avant. Et combien avez-vous d’exemple de chose plus intelligente se faire contrôler par une chose moins intelligente? (…) Je l’imagine comme ceci: imaginez-vous avec un enfant de trois ans. Face à l’IA, nous serions les enfants de trois ans. »

Et en l’absence de règlements internationaux, le développement de l’IA ne connaît pas de limites. « Mêler le développement de l’IA aux objectifs lucratifs de grosses entreprises ne va pas garantir un développement sûr », ajoute Hinton. « La seule chose qui peut forcer ces entreprises à faire plus de recherches sur la sûreté est une régulation gouvernementale. » Mais en dehors de l’AI Act spécifique à l’Europe, aucun texte majeur ne semble pouvoir ralentir cette course à l’innovation.

Geoffrey Hinton veut réguler l’IA

Quand il parle d’IA, Geoffrey Hinton est à prendre au sérieux. L’homme est une figure scientifique notable puisqu’à l’origine des réseaux de neurones dont il publie les travaux en 1986. Cette innovation est une première pierre pour les modèles qu’on connaît aujourd’hui sous le nom d’intelligence artificielle. Il a d’ailleurs remporté le prix Nobel de physique 2024 pour ses recherches dans le domaine.

Mais le physicien remet souvent en question sa création qui a connu une évolution fulgurante ces dernières années. En mai 2023, le chercheur quitte ses fonctionschez le géant de la tech Google. Il voit l’émergence de certains chatbots comme « effrayant » et comme un outil qui, placé entre de mauvaises mains, pourrait devenir inquiétant.

Depuis son départ de Google, Geoffrey Hinton milite pour une régulation beaucoup plus stricte de l’IA. Il rejoint les positions de Yoshua Bengio, un autre père de l’IA, lui aussi critique envers les utilisations actuelles de son invention.

Pour ce qui est des réglementations internationales sur l’IA, les chercheurs peuvent espérer des avancées lors du Sommet pour l’action sur l’intelligence artificielle qui aura lieu le 10 et 11 février 2025 à Paris. De nombreux chefs d’État y sont attendus pour discuter de l’avenir et du déploiement de l’IA « dans l’intérêt général et le respect du bien commun ».

Théotim Raguet