Les élections américaines sont traditionnellement un laboratoire des pratiques numériques émergentes. Tous les mois, jusqu’à l’élection de novembre, plongée dans la campagne digitale avec Ronan Le Goff, co-directeur de La Netscouade.
C'est une élection décisive à l’ère de l’IA générative. En 2020 déjà, les élections présidentielles américaines avaient été hantées par le spectre du deepfake, mais quatre ans plus tard, la donne a changé : les moyens technologiques se sont démultipliés et formidablement démocratisés. Côté technologie, la dernière version de Midjourney atteint une qualité quasi photographique, brouillant encore plus les lignes. Côté usage, la récente présidentielle argentine a été marquée par des torrents d’images générées par IA.
Le coût de production de la désinformation est tombé très bas. Une histoire sidérante avait été révélée à l’issue des élections américaines de 2016 : la désinformation n’était pas que russe, des adolescents macédoniens avaient produit de la fake news au kilomètre dans le seul but de faire du clic avec des articles pro-Trump. Des articles faits main dans un anglais approximatif. Si une telle histoire survenait en 2024, ChatGPT serait évidemment mis à contribution pour un résultat plus probant et plus rapide. La production de textes et d’images à grande échelle est devenue littéralement un jeu d’enfant.
Pour 2024, les craintes sont grandes de vivre un nouveau scénario à la 2016, où les fake news et Cambridge Analytica avaient brouillé le jeu démocratique. Sous perfusion de l’IA, «les élections de 2024 vont être un bazar», s’inquiète Eric Schmidt, ancien patron de Google, qui plaide pour «la liberté d'expression pour les humains (mais) pas pour les ordinateurs». Pour le sénateur démocrate Mark Warner, les manipulations russes en 2016 étaient «un jeu d'enfant, comparé à ce que des outils d'IA nationaux ou étrangers pourraient faire pour bousiller complètement nos élections». Microsoft a déjà repéré l’usage d’images générées par IA sur des comptes de propagande chinois à destination du public américain.
Une modération défaillante
Si les réseaux sociaux se sont dotés de cellules dédiées à l’intégrité des élections, leur efficacité pose question. Meta a licencié plus de 20 000 personnes en 2023, dont de nombreux employés en charge des fake news et de l’intégrité des élections. X (ex-Twitter) garde une place déterminante dans la circulation de l’information et Elon Musk montre un dédain appuyé pour ces questions. Les initiatives pourraient venir du côté des entreprises d’IA : Google a déjà annoncé brider son outil Bard sur le sujet des élections 2024 tandis qu’OpenAI réfléchit aux moyens de muscler sa modération en vue de cette échéance.
Au-delà des Etats-Unis, le sujet de l’IA en politique sera d’autant plus majeur que 2024 sera une année d’élection historique. Pas moins de deux milliards de personnes sont appelées aux urnes. Aux Etats-Unis, en Inde, en Russie, en Grande-Bretagne, au Mexique, à Taïwan, en Afrique du Sud, en Indonésie mais aussi sur le vieux continent pour les élections au Parlement européen.
A quoi s’attendre pour 2024 ?
C’est le cas le plus significatif à ce jour de manipulation assistée par IA. A 48 heures des élections législatives de septembre 2023 en Sloviquie, un audio du leader du parti progressiste Michal Šimečka est posté sur Facebook. On l’entend discuter avec une journaliste de combines pour truquer l’élection. Šimečka dément immédiatement, l’AFP conclut que c’est un deepfake, mais le coup est parfait : la boule puante tombe dans la fenêtre de temps de 48 heures durant laquelle médias et politiques sont tenus au silence. Dans une course très serrée, Šimečka perd les élections et la Russie gagne un nouvel allié au sein de l’UE.
En Argentine, quelques deepfakes (souvent peu crédibles) ont circulé lors des élections de novembre 2023, mais le pays retient surtout l’attention en raison de son usage totalement décomplexé de l’IA générative. Javier Milei, l’excentrique candidat d’extrême-droite qui s’est fait élire à la présidence, n’a pas hésité à poster une image de son concurrent Sergio Massa grimé en Mao. Son adversaire n’est pas en reste. Son équipe de campagne a monté un collectif dédié à l’IA - «Sergio Massa en IA pour la patrie» - qui a publié une vidéo à fort succès viral, mettant notamment en scène Javier Milei dans des rites sataniques. Une sorte de superproduction hollywoodienne réalisée à coût zéro depuis Buenos Aires. Il ne s’agit pas de désinformation au sens strict (personne ne croit une seule seconde que ces vidéos sont réelles) mais d’un nouvel usage de la technologie à des fins de propagande. Des pratiques nouvelles qui flottent pour l’instant dans un flou éthique total.
Des raisons de se rassurer
La désinformation est légion, mais les fact-checkeurs veillent. Cela fait maintenant huit ans que le mot «fake news» est entré dans le langage commun. Le journalisme a eu le temps de s’adapter, les services de fact-checking sont désormais rodés et capables de répondre en quelques heures à n’importe quelle fausse information (à l’image de l’AFP pour le deepfake en Slovaquie). S’il existe une économie des infox, il y a aussi une économie du fact-checking : l’excellent site Checknews est ainsi un des supports principaux d’abonnement au site de Libération.
Autre élément rassurant, l’outil «Notes de communauté» de X, nouveauté de 2024, qui pourrait jouer un rôle déterminant pour debunker les fake news à la source. Cet outil de fact-checking participatif - un des rares apports positifs d’Elon Musk - a déjà désamorcé une utilisation malveillante de l’IA générative dans la campagne américaine. En juin, l’équipe du candidat républicain Ron DeSantis avait publié une vidéo montrant Donald Trump faisant un câlin au Dr. Fauci, le M. Covid américain, détesté par la base républicaine. Une création de l’IA, immédiatement dénoncée comme tel par les fins limiers de X, à travers une note publiée directement sous la vidéo. Simple, efficace.
Qui a besoin de l'intelligence artificielle quand des images d’actualités suffisent ? Le premier clip de campagne de Joe Biden publié le 4 janvier se focalise sur la menace pour la démocratie que constituerait une nouvelle élection de Donald Trump. Au menu, des images bien réelles de l’assaut du Capitole le 6 janvier 2021.
