Dix étudiants de l’Université de Gérone (UdG) ont identifié quels outils et applications sont les plus efficaces pour détecter les « fausses nouvelles » et les vidéos manipulées. Tous étudient à la Faculté des Sciences Économiques et de Gestion et, pendant six mois, ils ont analysé en profondeur jusqu’à 21 programmes basés sur l’intelligence artificielle (IA).
Ils ont réalisé une authentique radiographie de chacun d’eux pour vérifier s’ils étaient capables de détecter de fausses nouvelles du domaine économique ou des vidéos manipulées grâce à la technologie des « deepfakes ». Après avoir analysé tous les programmes, ils ont conclu que Google Gemini est le plus complet et le plus fiable.
« Le résultat permet non seulement d’éviter les cyber-arnaques, mais peut également être appliqué pour vérifier tous les contenus qui circulent sur les réseaux sociaux », explique son enseignante, Anna Carbonell.
Selon les données des Mossos d’Esquadra, des escroqueries sont signalées chaque mois en Catalogne qui, ensemble, atteignent des montants compris entre 12 et 15 millions d’euros. La grande majorité, voire la quasi-totalité, se déroulent dans des environnements numériques.
Comme piège, les cybercriminels utilisent souvent des « fausses nouvelles » ou des « deepfakes » : de fausses nouvelles créées intentionnellement ou des vidéos manipulées de personnes célèbres qui, par exemple, annoncent des investissements avec des rendements très élevés en peu de temps. Il existe des contrefaçons si sophistiquées qu’il est difficile de distinguer si ce qu’elles montrent est vrai ou faux.
L’augmentation de ces cyberarnaques a conduit le Collège des Économistes de Catalogne à publier une étude spécifique pour alerter les entreprises et les citoyens sur les risques de tomber dans ce type de tromperie. Dans le cadre de ce rapport, l’école a chargé la Faculté des sciences économiques et commerciales de l’UdG d’analyser quels outils basés sur l’IA sont les plus efficaces pour lutter contre ces mensonges.
La recherche a été réalisée par un groupe de dix étudiants bénévoles sous la supervision du professeur Anna Carbonell, qui enseigne le marketing numérique. Il s’agit d’étudiants qui ont terminé cette année la troisième ou la quatrième année d’économie, d’administration et de gestion des affaires (ADE) ou le double diplôme.
Pendant six mois, les étudiants universitaires ont analysé un total de 21 programmes différents et testé leur capacité à vérifier le contenu, tant des textes que du contenu audiovisuel (graphiques, photographies, vidéos et audios).
Parmi les outils évalués figuraient des applications bien connues telles que ChatGPT ou Google Gemini, ainsi que d’autres plus spécialisées et moins populaires, telles que Vastav, GPTZero, Hive AI, JustDone, My AI Detector, NewsGuard, Perplexity AI, SurfSafe ou Scribbr, entre autres.
Une radiographie détaillée
Pour chacun des outils basés sur l’IA, les étudiants ont effectué une analyse exhaustive.
À partir d’un ensemble de 100 fausses nouvelles et autres vraies, ils ont testé chacun des programmes dans différentes langues (catalan, espagnol et anglais) et sur différents appareils (ordinateurs, tablettes et téléphones portables).
« Nous avons analysé de nombreuses variables : par exemple, si les résultats étaient homogènes lorsque différentes personnes posaient la même question, le temps de réponse, si l’outil était intuitif ou non et s’il rendait un verdict clair », explique David Domingo, étudiant en quatrième année d’ADE.
« De plus, combiner les fausses nouvelles avec les vraies nouvelles nous a permis de vérifier si le programme avait commis des erreurs lors de leur identification », ajoute-t-il.
« Comme nous étudiions différents diplômes, nous nous sommes organisés pour nous rencontrer à la bibliothèque. Là, nous nous sommes répartis en groupes de trois ou quatre personnes et chacun a contrasté séparément le fonctionnement du même outil », explique Helena Garcia, 22 ans et également étudiante en administration des affaires à l’UdG.
Gémeaux, le plus fiable
Il a fallu environ six mois pour analyser les 21 programmes d’IA et tirer des conclusions sur ceux qui étaient les plus efficaces. Le résultat est l’étude intitulée « Économie du mensonge », qui rassemble les résultats obtenus par chaque outil et détermine lesquels sont les plus robustes et viables pour détecter les « fausses nouvelles » et les « deepfakes » qui circulent sur Internet.
L’étude distingue différents types de contenus. Pour une analyse de texte exclusive, GPT Zero est l’une des options les plus appropriées. Dans le cas des images et du son, IsFakeIA se démarque, tandis que pour le contenu audiovisuel, la solution la plus fiable pour détecter les vidéos manipulées est Vastav.
Cependant, au-delà des outils spécialisés, l’étude conclut que l’outil le plus complet et le plus solide pour analyser tous types de contenus est Gemini. « L’intelligence artificielle de Google analyse avec une précision millimétrique si le contenu est réel ou a été manipulé », explique Helena Garcia. En plus d’analyser techniquement les fichiers, Gemini compare les informations avec les données en temps réel pour vérifier si le contenu est cohérent avec les documents officiels et les sources actuelles.
En fait, Gemini est capable de détecter même les signatures numériques – semblables aux filigranes invisibles – qui nous permettent d’identifier si le contenu a été généré par l’IA ou s’il est authentique. De plus, contrairement à d’autres programmes, l’utilisateur n’a pas besoin de fournir des instructions très précises (appelées invites). De plus, comme il est intégré à l’écosystème Google, il est très accessible, dispose d’une version gratuite et est simple à utiliser.
Enfin, l’étude conclut que Perplexity AI est également un outil « très efficace » et mentionne spécialement Verificat, la plateforme catalane de vérification des faits, dont elle reconnaît expressément le travail de démantèlement des fausses nouvelles.
Applicable à n’importe quelle zone
Même si le rapport préparé par les étudiants de l’UdG s’est concentré sur le domaine économique -car cela a été établi dans la mission reçue-, ses résultats sont applicables à de nombreux autres secteurs.
Des entreprises aux citoyens, en passant par les médias et les analystes politiques, le rapport identifie les outils basés sur l’intelligence artificielle les plus efficaces pour lutter contre la désinformation par le biais des « fausses nouvelles » et des « deepfakes ».
« Tout comme une personne peut être victime d’une escroquerie financière, elle peut également être trompée de bien d’autres manières », explique Anna Carbonell.
« Chaque jour, une multitude de fausses images, nouvelles et vidéos circulent sur les réseaux sociaux qui semblent réelles. Cette étude nous permet de savoir quels programmes sont les plus efficaces pour déterminer si une publication ou un contenu est vrai ou non », conclut le professeur de marketing numérique.