ARTICLE – « Nous allons vers un futur catastrophique » : le père de l’IA appelle à agir, vite !

Dina R.  2 octobre 2024 LE BIG DATA

Yoshua Bengio, l’un des plus importants acteurs dans le développement des systèmes d’apprentissage automatique, déclare que ces systèmes pourraient devenir un grand risque pour l’humanité.

On dirait que les personnes qui craignent que l’IA représente un risque pour l’humain sont plus nombreuses que jamais. Après la crainte des deux pères fondateurs de l’intelligence artificielle sur le risque que l’IA puisse dépasser l’intelligence humaine, Yoshua Bengio insiste sur le fait que l’IA a besoin de règles pour éviter une catastrophe. Découvrez tous les détails dans cet article.

« Nous allons vers un futur catastrophique » : Qui est Yoshua Bengio ?

Yoshua Bengio est un personnage emblématique dans le secteur de l’intelligence artificielle. Il s’agit en fait de l’un des pionniers dans le développement de réseaux neuronaux artificiels et d’algorithmes d’apprentissage profond.

Bengio a reçu le prix Turing 2018 avec son collègue Yann LeCun, responsable scientifique de Meta en IA et Geoffrey Hinton, qui n’est autre qu’un ancien chercheur en IA de Google. Rappelons que le prix Turing est connu comme le « prix Nobel » dans le domaine de l’informatique.

Ces scientifiques ont reçu ce prix en raison de leurs contributions clés dans le domaine de la technologie d’intelligence artificielle. C’est d’ailleurs la raison pour laquelle Yoshua Bengio et ses deux collègues lauréats du prix Turing sont appelés les « parrains de l’intelligence artificielle ».

Aujourd’hui, il est le président du Rapport scientifique international sur la sécurité de l’intelligence artificielle avancée. C’est un groupe consultatif soutenu par 30 pays faisant partie de l’Union européenne et les Nations-Unies.

Il faut agir vite, les risques de l’apprentissage automatique sont bien réels

Yoshua Bengio affirme que l’IA présente des risques à court et à long terme. Il pense qu’à court terme, nous pouvons voir cette technologie être utilisée dans la campagne électorale. Il déclare par la suite que la situation ne fera qu’empirer.

Nous avons aussi été témoin que l’IA a des capacités assez exceptionnelles, comme ChatGPT-4 qui a surpassé les humains en matière de persuasion. Et il est persuadé que la nouvelle version va être encore pire.

Par ailleurs, lorsque nous allons atteindre le niveau de superintelligence, nous allons faire face à deux risques majeurs. Tout d’abord, cela va conduire à la perte de contrôle de l’homme. En effet, si les appareils super-intelligents ont un objectif d’auto-préservation, leur but pourrait être de détruire l’humanité afin que nous ne puissions pas les éteindre.

Et si ce premier scénario ne se réalise pas, l’autre danger est que nous, les humains, utilisons le pouvoir de cette technologie pour contrôler l’humanité dans une dictature mondiale. Plus précisément, l’IA va donner le pouvoir à celui qui la contrôlera.

Bengio recherche des moyens de contrôler l’Intelligence artificielle

Bien que Yoshua Bengio soit l’une des personnes à jouer un rôle essentiel dans le développement des réseaux neuronaux artificiels, il est actuellement perturbé par le rythme à laquelle cette technologie est développée et adoptée.

Il pense que l’intelligence artificielle a le pouvoir de détruire la structure de la société et de comporter des risques imprévus pour les humains. Il affirme qu’il y a une grande possibilité de conséquences catastrophiques si nous atteignons un certain niveau d’IA.

Effectivement, il confirme l’existence des scénarios qui étaient mauvais depuis la création de l’IA, mais il pensait qu’ils allaient trouver une solution. Du coup, il a décidé d’agir autrement en pensant à la génération future, notamment à ces enfants et à leur avenir. Pour cela, il a décidé de faire tout son possible pour atténuer les risques.

C’est pour cette raison qu’il pense qu’il est impératif de réguler l’IA. Certes, l’UE a déjà adopté une loi sur cette technologie, tout comme Biden a adopté un décret, et il pense que nous sommes dans la bonne direction.

Néanmoins, il atteste que cela ne suffit pas, surtout que les décisions prises n’ont pas trop d’impact. Par exemple, il faudra obliger les entreprises à adopter un plan de sécurité et à divulguer les résultats de leurs tests.

Par ailleurs, si elles ne respectent pas les normes les plus récentes concernant la protection du public, ces entreprises peuvent être poursuivies en justice. « Je pense que c’est la meilleure proposition législative qui existe » a déclaré Bengio.