Aller au contenu principal

L’IA : s’en réjouir ou la craindre? la maîtriser et développer la vigilance

PRÉSENTATION

L’intelligence humaine peut-elle être supplantée par la si mal nommée intelligence artificielle ? Assurement non à un horizon prévisible.

Les rêves et les craintes se développent en toutes directions.

Bien des éléments doivent nous rassurer.

Les émotions, les raisonnements « illogiques « , la complexité forte de certaines décisions où la tactique ou la stratégie l’emportent sur la logique ou le calcul pur, l’éthique…autant d’éléments qui conservent à la décision humaine sa suprématie.

Comme le développent Michel Kelly-Gagnon et Alexandre Massaux1, dans l’article dont nous vous proposons la lecture ci-contre, l’IA, même si elle peut apporter une aide considérable, « ne parvient pas à produire la même complexité que cent milliards de neurones connectés entre eux par le million de milliards de synapses du cerveau humain ».

Les décisions élaborées collectivement

De surcroît, nombre de décisions relèvent du collecif, dans l’entreprise, la vie publique, les cercles amicaux ou associatifs.

Responsabilité et maîtrise

Quoi qu’il en soit, la responsabilité de l’action et de la décision reste humaine et cela constitue un impératif ethique qui nous conduit à developper ou créer les modalités de maîtrise des outils, et à développer les plus grandes vigilances et contrôles, comme cela s’impose dans bon nombre de technologies nouvelles.

ARTICLE

L’IA ne remplacera pas la prise de décision humaine

Par Michel Kelly-Gagnon et Alexandre Massaux1. 29 JUILLET 2020 dans Contrepoints

L’IA ne peut pas remplacer l’esprit humain, ou en tout cas pas pour l’avenir prévisible. Et si ce jour arrive il faudra faire preuve de vigilance extrême.

Les progrès en matière d’IA (Intelligence Artificielle) font naitre beaucoup de rêves et de craintes. On entend de plus en plus des discours promouvant l’idée que l’IA va pouvoir scientifiser les activités humaines et les sciences sociales.

Qu’il s’agisse de remplacer les juges par une IA qui serait chargée de dire le droit et de rendre la justice ou de l’idée que la science économique pourrait juste être calculée et analysée par des ordinateurs, les idées sur l’utilisation de l’Intelligence Artificielle ne manquent pas.

Si nous pouvons nous réjouir que l’IA, en tant qu’innovation, soit bien accueillie, il faut toutefois garder raison et prendre conscience de certaines limites : l’IA ne peut pas remplacer l’esprit humain, ou en tout cas pas pour l’avenir prévisible.

Et si ce jour arrive il faudra faire preuve de vigilance extrême.

L’intelligence artificielle ne peut pas remplacer l’esprit et le cerveau humain

Comme son nom l’indique, l’IA reste artificielle et est moins perfectionnée qu’un encéphale humain. Si elle arrive à copier et à apprendre la logique humaine, elle ne parvient pas à produire la même complexité que cent milliards de neurones connectés entre eux par le million de milliards de synapses du cerveau humain.

De plus, toute décision humaine n’est pas forcement logique. Une partie repose sur des éléments inconscients. Il convient de rappeler que Vilfredo Pareto met en avant dans son Traité de sociologie générale en 1917 que les actions humaines peuvent être « logiques » mais aussi « non-logiques ».

À cet effet, les émotions jouent un rôle majeur dans la prise de décision humaine et ne sont pas compatibles avec les processus des IA. Si une IA peut imiter des émotions, elle ne pourra pas les utiliser pour une prise de décision comme les humains.

Dès lors, concevoir l’IA comme un outil capable de remplacer l’action humaine ou la diriger parait contreproductif. L’idée d’utiliser les machines pour transformer les sciences sociales comme l’économie en de simples algorithmes ne prend pas en compte la réalité de l’activité humaine basée sur l’individu.

Comme le rappelle Ludwig von Mises dans Human Action : « toutes les actions sont effectuées par des individus. Un collectif fonctionne toujours par l’intermédiaire d’un ou de plusieurs individus dont les actions sont liées au collectif en tant que source secondaire. » Dès lors, vouloir réduire les calculs économiques à des algorithmes est impossible du fait qu’ils sont le produit des volontés individuelles de l’ensemble des personnes.

Plus généralement, Friedrich Hayek met en garde contre une planification scientifique dans La route de la servitude : « L’intolérance de la raison, fréquente chez le spécialiste, l’impatience caractéristique de l’expert envers les comportements et les actes du non-initié, le mépris souverain pour tout ce qui n’est pas organisé d’après des schémas scientifiques par des esprits supérieurs » a été une des causes de la montée du totalitarisme en Allemagne.

Vouloir confier à une IA qui sera programmée ou éduquée pour être spécialiste dans son domaine aura des effets néfastes sur la liberté et privera la prise de décision de son humanité.

L’IA sera une aide mais l’humanité doit garder le dernier mot

L’IA peut être une aide précieuse pour la prise de décision mais ne peut pas remplacer la décision finale humaine. Le cas des drones militaires illustre par ailleurs bien le problème : d’un point de vue légal, ceux-ci ne peuvent pas faire feu sans l’autorisation d’un humain.

En matière d’économie qui affecte la vie de tous les individus, l’utilisation de l’IA et des algorithmes doit suivre le même raisonnement. Les machines ne peuvent pas remplacer le développement des théories en matière de science sociales car elles sont l’étude de l’action de l’humanité, ce que n’est pas une machine.

  1. Respectivement PDG et chercheur associé à l’Institut économique de Montréal (iedm.org)

1 réponse »

  1. Bonsoir
    Vous écrivez « L’intelligence artificielle ne peut pas remplacer l’esprit et le cerveau humain » et vous avez raison dans un sens, mais dans un sens seulement.
    L’IA n’a pas vocation a remplacer le cerveau humain (et j’éviterais de parler d’Esprit). Elle est autre chose. Depuis l’avènement du deep learning et de l’apprentissage non monitoré, si les résultats sont absolument étonnants (et effrayants) les chercheurs, eux mêmes, peinent à comprendre le « comment » de leur propre création. Et il n’y a pas de surprise à cela en ce sens que les règles de fonctionnement et de rétroaction des réseaux de neurones mis en œuvre, induisent des fonctionnement non linéaires absolument complexes (au sens de la systémique).
    Laisser penser qu’il y a un algorithme est trompeur, car il n’y en a pas. Il y en a un qui gère les interactions entre les neurones, mais aucun qui permettent de décrire les relations entre les entrées du système et ses sorties.
    La base de connaissance des IA croit de manière exponentielle avec les données qui sont créées chaque jour. Ce qui en sort? personne ne sait, allez donc poser des questions à BlackRock sur Aladdin.

    J'aime

Votre commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l’aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l’aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l’aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l’aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.

%d blogueurs aiment cette page :