Le film ‘Son’ (2017) raconte le histoire d’amour impossible entre un homme qui se consacre à écrire des lettres pour les autres (Joaquín Phoenix) et un système d’exploitation qui parle avec la voix de Scarlett Johansson. Votre directeur, Spike Jonze, décortique la peur de la solitude et l’humanisation de l’intelligence artificielle (IA). « Elle » est une fiction, mais en 2023, cela semble presque réel.
Les chercheurs de Avast, une société dédiée aux systèmes antivirus, a confirmé que l’IA « joue avec nos émotions ». Au-delà des faux profils, il existe désormais des outils d’« arnaque aux rencontres » qui utilisent ChatGPT pour augmenter la crédibilité des conversations.
L’équipe Avast l’a nommé ‘AmourGPT’. C’est – expliquent-ils – un pas au-delà du traditionnel « poisson-chat » (faux profils). «Cet outil engage une conversation avec ses victimes, échappe aux mesures de sécurité et est capable de produire des textes authentiques et émotionnels », expliquent-ils. Bien que l’outil existe depuis plus d’une décennie, il a récemment intégré la technologie OpenAI, ce qui lui confère « un autre niveau de puissance ».
« Vous pouvez parler de vos films préférés, sympathiser avec vos luttes quotidiennes et même partager des souvenirs fictifs qui vous touchent. « Non seulement il imite l’interaction humaine, mais il l’élabore également et crée des conversations. »
Le soi-disant LoveGPT est présent dans des plateformes telles que Tinder, Meetme, Badoo, Facebook Dating… Les chercheurs posent la question suivante : Sortez-vous avec une personne ou un robot ?
« L’utilisation que cet outil fait de ChatGPT, générant des conversations qui semblent authentiques, est troublante », explique-t-il. Luis Corrons, l’un des responsables de la sécurité d’Avast. « Vous pouvez parler de vos films préférés, sympathiser avec vos luttes quotidiennes et même partager des souvenirs fictifs qui vous touchent. Non seulement il imite l’interaction humaine, mais il l’élabore également et crée des conversations si réelles que même les plus exigeants pourraient être trompés.
Vérifier, contraster
Face à cette réalité, les experts Avast demandent toujours à vérifier. « Si une conversation semble trop parfaite ou un profil trop soigné, il est préférable de faire une petite recherche. Une recherche rapide d’images peut révéler si cette photo a été empruntée ailleurs », souligne Corrons.
Les robots comme LoveGPT prospèrent grâce à notre désir de connexion. « Soyez prudent avec les profils qui semblent trop désireux de partager des histoires personnelles ou de demander des informations personnelles. Donnez la priorité à la sécurité : ne partagez jamais de données personnelles telles que votre adresse personnelle, votre lieu de travail ou des informations financières avec une personne que vous venez de rencontrer en ligne », conclut l’expert en sécurité.
« La connexion humaine est irremplaçable et aucun chatbot, aussi avancé soit-il, ne peut reproduire la profondeur des émotions humaines », conclut Corrons.