ARTICLE – Vérité ou mensonges ? Comment fonctionne la désinformation et comment la contrer

Par The Economist le 10.05.2024

Internet a considérablement augmenté les problèmes liés à la désinformation, devenue une véritable arme de guerre contre laquelle il faut se protéger. Plus de coordination et un meilleur accès aux données permettent de repérer et de contrer la désinformation

Saviez-vous que les incendies qui ont ravagé Hawaï l’été dernier ont été déclenchés par une « arme météorologique » secrète testée par les forces armées américaines, et que des ONG américaines propagent la dengue en Afrique ? Qu’Olena Zelenska, la première dame d’Ukraine, s’est offert une virée shopping de 1,1 million de dollars sur la Cinquième Avenue de Manhattan ? Ou que Narendra Modi, le premier ministre indien, a été soutenu dans une nouvelle chanson par Mahendra Kapoor, un chanteur indien décédé en 2008 ?

Ces histoires sont, bien sûr, toutes fausses. Ce sont des exemples de désinformation : des faussetés destinées à tromper. De telles histoires sont diffusées dans le monde entier par des campagnes de plus en plus sophistiquées. Des outils d’intelligence artificielle (IA) sophistiqués et des réseaux complexes de comptes de médias sociaux sont utilisés pour créer et partager des photos, des vidéos et des sons étrangement convaincants, confondant ainsi la réalité et la fiction. En cette année où la moitié du monde organise des élections, cette situation alimente les craintes que la technologie ne rende la désinformation impossible à combattre, ce qui porterait un coup fatal à la démocratie. Dans quelle mesure devrions-nous nous inquiéter ?

LIRE AUSSIOpération Doppelgänger : la désinformation russe revient en force en Europe

La désinformation existe depuis qu’il y a deux camps en présence. Ramsès II n’a pas gagné la bataille de Kadesh en 1 274 av. Au mieux, elle s’est soldée par un match nul, mais on ne le devinerait jamais à la lecture des monuments que le pharaon a construits en l’honneur de son triomphe. Le récit de la guerre des Gaules par Jules César tient autant de la propagande politique que du récit historique. L’ère de l’imprimerie n’a pas été meilleure. Pendant la guerre civile anglaise des années 1640, le contrôle de la presse s’est effondré, ce qui a suscité de vives inquiétudes quant aux « pamphlets calomnieux et fictifs ».

L’internet a considérablement aggravé le problème. Les fausses informations peuvent être diffusées à peu de frais sur les médias sociaux ; l’IA permet également de les produire à peu de frais. La désinformation est un sujet obscur. Mais dans une section spéciale consacrée à la science et à la technologie, nous retraçons les moyens complexes par lesquels elle est alimentée et diffusée par l’intermédiaire de réseaux de comptes de médias sociaux et de sites web. La campagne russe contre Mme Zelenska, par exemple, a commencé par une vidéo sur YouTube, avant de passer par des sites africains de fausses nouvelles et d’être relayée par d’autres sites et comptes de médias sociaux. Le résultat est un vernis trompeur de plausibilité.

La désinformation contre la démocratie
Les comptes diffuseurs se font des adeptes en publiant des articles sur le football ou la famille royale britannique, gagnant ainsi la confiance des internautes avant d’y mêler de la désinformation. La plupart des recherches sur la désinformation ont tendance à se concentrer sur un sujet spécifique, sur une plateforme particulière et dans une seule langue. Mais il s’avère que la plupart des campagnes fonctionnent de manière similaire. Les techniques utilisées par les opérations de désinformation chinoises pour dénigrer les entreprises sud-coréennes au Moyen-Orient, par exemple, ressemblent beaucoup à celles utilisées par les Russes pour répandre des contre-vérités en Europe.

L’objectif de nombreuses opérations n’est pas nécessairement de vous inciter à soutenir un parti politique plutôt qu’un autre. Parfois, il s’agit simplement de polluer la sphère publique ou de semer la méfiance à l’égard des médias, des gouvernements et de l’idée même que la vérité est connaissable. D’où les fables chinoises sur les armes météorologiques à Hawaï, ou la tentative de la Russie de dissimuler son rôle dans l’abattage d’un avion de ligne malaisien en promouvant plusieurs récits concurrents.

Tout cela fait craindre que la technologie, en rendant la désinformation imbattable, ne menace la démocratie elle-même. Mais il existe des moyens de minimiser et de gérer le problème.

L’IA aide aussi à la traque des fake news
Il est encourageant de constater que la technologie est autant une force du bien que du mal. Si l’IA rend la production de désinformation beaucoup moins coûteuse, elle peut aussi aider à la traque et à la détection. Même si les campagnes deviennent de plus en plus sophistiquées, chaque compte de diffusion variant son langage juste assez pour être plausible, les modèles d’IA peuvent détecter les récits qui semblent similaires. D’autres outils permettent de repérer les vidéos douteuses en identifiant les sons truqués ou en recherchant des signes de battements cardiaques réels, tels que révélés par les variations subtiles de la couleur de peau du front des personnes.

Une meilleure coordination peut également s’avérer utile. À certains égards, la situation est analogue à celle de la science du climat dans les années 1980, lorsque les météorologues, les océanographes et les spécialistes des sciences de la terre savaient qu’il se passait quelque chose, mais ne voyaient qu’une partie de l’image. Ce n’est que lorsqu’ils ont été réunis que l’ampleur du changement climatique est apparue clairement. De même, les chercheurs universitaires, les ONG, les entreprises technologiques, les médias et les agences gouvernementales ne peuvent pas s’attaquer seuls au problème de la désinformation. En se coordonnant, ils peuvent partager des informations et repérer des schémas, ce qui permet aux entreprises technologiques d’étiqueter, de museler ou de supprimer les contenus trompeurs. Par exemple, Meta, la société mère de Facebook, a mis fin à une opération de désinformation en Ukraine à la fin de l’année 2023 après avoir reçu un tuyau de Google.

LIRE AUSSITerrorisme, cyberattaques, désinformation… Ces menaces qui pèsent sur les JO 2024

Mais une meilleure compréhension passe aussi par un meilleur accès aux données. Dans le monde actuel des flux algorithmiques, seules les entreprises technologiques peuvent savoir qui lit quoi. En vertu de la législation américaine, ces entreprises ne sont pas obligées de partager leurs données avec les chercheurs. Mais la nouvelle loi européenne sur les services numériques impose le partage des données et pourrait servir de modèle à d’autres pays. Les entreprises qui craignent de partager des informations secrètes pourraient laisser les chercheurs envoyer des programmes à exécuter, plutôt que d’envoyer des données à analyser.

Une désinformation plus sophistiquée
Une telle coordination sera plus facile à mettre en place dans certains endroits que dans d’autres. Taïwan, par exemple, est considérée comme la référence en matière de lutte contre les campagnes de désinformation. Le fait que le pays soit petit, que la confiance dans le gouvernement soit élevée et que la menace d’une puissance étrangère hostile soit claire y est pour quelque chose. D’autres pays disposent de moins de ressources et ont moins confiance dans les institutions. En Amérique, hélas, la polarisation de la vie politique fait que les tentatives coordonnées de lutte contre la désinformation ont été dépeintes comme la preuve d’une vaste conspiration de la gauche visant à faire taire les voix de la droite en ligne.

Les dangers de la désinformation doivent être pris au sérieux et étudiés de près. Mais il faut garder à l’esprit qu’ils sont encore incertains. Jusqu’à présent, rien ne prouve que la désinformation puisse à elle seule influencer le résultat d’une élection. Pendant des siècles, il y a eu des gens qui ont colporté de fausses informations et des gens qui ont voulu les croire. Pourtant, les sociétés ont généralement trouvé des moyens de faire face à la situation. Il se peut que la désinformation prenne aujourd’hui une forme nouvelle et plus sophistiquée. Mais elle ne s’est pas encore révélée comme une menace sans précédent et inattaquable.