Des explosions dévorant des bâtiments entiers, des villes réduites en cendres et des soldats en pleurs. Dans un contexte de guerre, de telles scènes sont plausibles. Cependant, cela ne veut pas dire qu’ils sont vrais.
La guerre en Iran entre dans sa troisième semaine marquée par le torrent de désinformation généré par l’intelligence artificielle (IA) qui inonde les réseaux sociaux, principale source d’information pour une partie importante de la population, une avalanche de canulars de plus en plus crédibles qui contribuent à semer le chaos et à rendre le conflit difficile à comprendre.
Une enquête sur Le New York Times publié le week-end dernier a identifié un total de 110 vidéos créées avec une IA générative qui montrent tout, depuis le bombardement de gratte-ciel dans le golfe Persique et de mosquées à Jérusalem jusqu’aux navires lançant des missiles, en passant par les enterrements de masse ou la capture de soldats par l’ennemi. La plupart d’entre elles sont accompagnées de textes qui, semble-t-il, donnent une légitimité aux images.
Ces faux contenus cumulent des millions de vues sur des plateformes telles que X, TikTok, Instagram et Facebook. De plus, ils circulent également de manière plus opaque et moins quantifiable pour les chercheurs dans les applications de messagerie comme WhatsApp ou Telegram.
Beaucoup de ces vidéos sont utilisées pour amplifier des discours favorables à l’Iran, selon une analyse récente de la société de renseignement numérique Cyabra. Trump, qui utilise régulièrement l’IA pour humilier ses ennemis et ses rivaux politiques, a dénoncé la nouvelle propagande synthétique de l’Iran. « C’est un pays qui s’appuie sur la désinformation, et maintenant ils utilisent la désinformation, en plus de l’IA. Et c’est une situation terrible (…) Ils ont montré toutes sortes de choses qui se seraient produites au cours des deux dernières semaines et qui ne se sont jamais produites », a critiqué le président américain.
Ces canulars synthétiques s’ajoutent aux canulars habituels, qui vont de la publication de mensonges comme celui de l’assassinat du Premier ministre israélien Binyamin Netanyahu au partage de vraies vidéos anciennes et décontextualisées qui sont vendues comme actuelles et avec une histoire déformée en faveur des utilisateurs qui les diffusent.
Mentir en tant qu’entreprise
La dernière génération d’outils d’IA permet aux utilisateurs de générer tous types de contenus faux mais hyperréalistes à peu ou pas de frais. Abaisser les barrières à l’entrée de la création de canulars audiovisuels encourage la diffusion de propagande pour des raisons nationalistes ou idéologiques, mais aussi pour des raisons économiques. Et les programmes de monétisation comme ceux de X, qui rémunèrent les utilisateurs dont le contenu suscite le plus de réactions, encouragent à faire du mensonge un business de plus en plus lucratif.
La semaine dernière, la plateforme contrôlée par le magnat Elon Musk a annoncé qu’elle suspendrait pendant 90 jours les revenus des créateurs qui publient de fausses vidéos sur la guerre sans prévenir qu’elles ont été générées avec l’IA. Pour autant, des experts en désinformation ont souligné à l’AFP que cet avertissement n’aurait pas servi de moyen de dissuasion pour arrêter l’avalanche d’images de synthèse sur le conflit, qui ont déjà atteint un volume de diffusion bien pire que celui observé après la guerre déclenchée par la Russie avec son invasion de l’Ukraine.
Grok, le modèle d’IA générative appartenant à Elon Musk, vous permet de déshabiller les protagonistes de vos propres images et de celles des autres. /Lionel Bonaventure /AFP
Le New York Times souligne que l’IA est également utilisée avec des images réelles pour les exagérer et ainsi tenter de mieux monétiser leur impact. Essentiellement, ils ont créé « une réalité alternative plus adaptée aux médias sociaux, où ces types d’images exagérées ont plus de chances de trouver un public ». « Le contenu généré par l’IA est déjà une caractéristique structurelle de ce conflit. Tout comme le doute qu’il génère sur la réalité », a expliqué Mahsa Alimardani, directrice adjointe de l’ONG Witness et experte de l’impact de la technologie sur les droits de l’homme.
« Le contenu généré par l’IA est déjà une caractéristique structurelle de ce conflit. Tout comme le doute qu’il génère sur la réalité »
douter de tout
L’impact de l’IA sur la guerre va bien au-delà de l’amplification des canulars. Et le fait est que, dans un monde où la technologie dilue la capacité de séparer la réalité du mensonge, ce doute constant peut également être instrumentalisé pour nier la vérité. Ce phénomène est connu sous le nom de « dividende des menteurs » et permet aux politiciens de délégitimer des informations réelles pour se soustraire à la responsabilité de leurs actes.
« Imaginez une vidéo du Premier ministre israélien dans une conversation privée révélant un projet visant à commettre une série d’assassinats politiques à Téhéran (…) Imaginez maintenant que ces enregistrements puissent être falsifiés à l’aide d’outils accessibles à presque toute personne disposant d’un ordinateur portable et d’un accès à Internet, et que les contrefaçons qui en résultent soient si convaincantes qu’il est impossible de les distinguer de la réalité », prédisaient en 2019 les juristes Danielle Citron et Robert Chesney, les pères de ce terme. L’exemple qu’ils ont donné il y a sept ans. est extrêmement réel.
Ce danger est également amplifié par les chatbots génératifs d’IA tels que ChatGPT, Gemini ou Grok, ce dernier également détenu par Musk. Bien qu’ils génèrent des réponses plausibles mais fausses (ce que l’on appelle des hallucinations), de plus en plus d’utilisateurs utilisent ces assistants comme s’ils constituaient une source d’information fiable. Ils leur demandent même si ce qu’ils voient est vrai ou non. Cette confiance aveugle contribue à déformer la réalité. Et, à plusieurs reprises, Grok a nié l’existence d’images réelles en les qualifiant de « faux profond générés avec l’IA. » Des experts en désinformation comme Shayan Sardarizadeh de BBC Verify ne se lassent pas de le répéter : « Les chatbots IA ne sont pas des outils de vérification des informations. »