« Écrivez ce que vous voulez voir. »
C’est par ces cinq mots que Google a annoncé jeudi intégrer son générateur d’images d’intelligence artificielle, Nano Banana, à Google Earth, sa réplique virtuelle en 3D du monde. Le géant de la technologie a célébré que la nouvelle « fonctionnalité amusante » permettrait aux utilisateurs de recréer à quoi ressemblerait la vue satellite des civilisations passées telles que la Grèce antique ou d’imaginer celles du futur.
Cependant, il semble qu’il n’ait pas pris en compte son potentiel de désinformation. Comme l’a rapporté le journaliste Henk van Ess, expert en recherche en ligne, l’intégration de l’IA dans Google Earth facilite la génération de fausses images qui semblent avoir été capturées par des satellites, qui peuvent être utilisées à des fins de tromperie et de manipulation.
Avec une simple commande textuelle, le chercheur a placé de faux réfugiés près de la frontière avec le Mexique, d’une centrale nucléaire en Iran ou d’un accident mortel simulé dans une rue d’Amsterdam. EL PERIÓDICO a également testé cette nouvelle fonction et, en quelques secondes seulement, a généré des images satellite réalistes qui montrent le cratère d’une explosion à Melilla ou une invasion sur la Place de Catalogne à Barcelone, avec de petits incendies et des bâtiments effondrés.
Recréation avec Google Earth AI d’une image satellite montrant le port de Ceuta en flammes. / Le journal
Dans un écosystème d’information de plus en plus contaminé par des contenus régurgités par l’IA générative, les images satellite ont servi de refuge pour une documentation véridique et fiable. Les experts du renseignement open source (OSINT) se sont tournés vers des services comme Google Earth pour analyser les données et dénoncer les abus dans des endroits difficiles d’accès sur le terrain, comme les guerres en Iran, en Ukraine ou à Gaza.
filigranes
Google a répondu à la plainte de Van Ess par une déclaration dans laquelle il ne nie pas l’information : « Nous prenons la désinformation très au sérieux : chaque image créée avec Nano Banana dans Google Earth comprend le filigrane numérique SynthID. Si quelqu’un a des questions sur une image, il peut consulter l’application Gemini ou utiliser Lens in Search pour vérifier si elle a été générée par l’IA. De plus, nous empêchons la création d’images sur des sujets nuisibles et mettons constamment à jour nos mesures de protection.
Le fait qu’EL PERIÓDICO ait pu générer toutes sortes de fausses images sans aucun type de blocage par Google Earth suggère que ces prétendus contrôles ne fonctionnent pas, du moins pour le moment.
De nombreux experts en désinformation ont dénoncé le fait que Google ait choisi d’embarquer l’IA dans un autre de ses services, avec les risques que cela comporte. « Dans un conflit en évolution rapide, l’information ne circule pas ainsi : la fausse image atteint des millions de personnes bien avant qu’elle puisse être vérifiée, et dans des environnements sensibles où les décisions de vie ou de mort sont prises en fonction de ce que les gens croient en quelques secondes, la vérification arrive souvent trop tard pour être pertinente. Les faux filigranes ne protègent pas l’enregistrement authentique du doute une fois qu’il est connu que n’importe qui peut falsifier une image satellite », a déclaré Mahsa Alimardani, directrice associée de la technologie, Menaces. et Opportunities at Witness, une organisation mondiale à but non lucratif spécialisée dans l’utilisation de la technologie pour défendre les droits de l’homme.