Deux adolescents regardent leur téléphone portable.
Est-il possible que le pape François soit un disciple de Donald Trump ? Cela a été affirmé et diffusé massivement sur Facebook (plus d’un million d’interactions) lors des élections présidentielles de 2016.
De telles fausses nouvelles se propagent rapidement sur les réseaux sociaux. Une expansion qui, dans une large mesure, est réalisée grâce à des robots (les robots).
Ils travaillent sans intervention humaine
L’écosystème des médias sociaux est un espace qui évolue à une vitesse vertigineuse. Dans ce processus, l’une des tendances les plus inquiétantes de ces dernières années est la prolifération des robots (les robots). Il s’agit de comptes automatisés de plus en plus sophistiqués, en grande partie grâce aux progrès de l’intelligence artificielle (IA) et notamment de l’IA générative.
Mais est-ce une invasion totale de les robots des réseaux sociaux ? Il existe actuellement des réseaux sociaux exclusifs pour les robots, comme Chirper. Cela montre que l’interaction humaine n’est pas nécessaire au fonctionnement d’un réseau social.
Les les robots sont des programmes conçus pour automatiser des tâches, simulant généralement le comportement d'un être humain en ligne. Ces programmes fonctionnent de manière autonome, suivant des instructions prédéfinies dans différents scénarios possibles. Grâce à cela, ils sont capables d’exécuter des tâches répétitives rapidement et sans interruption avec une interaction humaine minimale.
Messages pièges
Par exemple, sur Telegram, vous pouvez trouver les robots qui conçoivent des campagnes utilisateur Hameçonnage personnalisé. Campagnes qui trompent les utilisateurs en se faisant passer pour des entreprises ou des organisations réputées. Les identités de BBVA ou de Banco Santander ont récemment été utilisées pour ce type de campagnes, comme l'a prévenu Incibe (Institut national de cybersécurité), infectant des milliers d'utilisateurs via des messages pièges.
Comme si cela ne suffisait pas, l’émergence des technologies d’IA générative a considérablement accru le potentiel de ces technologies. les robots. Ces technologies ont permis les robots créez du texte, des images et des vidéos de haute qualité, plus convaincants et similaires à ceux que créerait n'importe quel utilisateur réel. Aujourd’hui, ils peuvent créer des réponses personnalisées, suivre des conversations et même adapter leur comportement en fonction du contexte.
Ces fonctionnalités en font des outils très utiles pour des tâches légitimes telles que le service client, l'apprentissage des langues ou les assistants virtuels. Duolingo, OK Google ou Siri appartiennent à ce type de technologie. Mais ce potentiel provoque l'augmentation de les robots avec des objectifs malveillants qui, dans le cas des réseaux sociaux, affectent l’expérience utilisateur.
Celui qui te demande de l'amitié est un robot
Qui n'a pas reçu de demande d'ami ou de suivre depuis un compte inconnu ? Bien que cela puisse paraître inoffensif, cette étape simple (à condition que nous l’acceptions) donne aux attaquants un accès direct à bon nombre de nos données. Des données qui peuvent être utilisées pour des campagnes frauduleuses, comme le démontrent différentes recherches, améliorant considérablement le taux de réussite de ces campagnes. La plupart de ces demandes sont généralement faites par les robots automatiquement et massivement.
Les les robots sont capables de créer et de propager de fausses informations, tant pour les campagnes publicitaires courrier indésirable pour manipuler l'opinion publique. Mais ils créent aussi des réseaux de les robots pour suivre, aimer, répondre ou partager des informations que l'un des les robots ou tout autre utilisateur a publié, toujours dans le but d'amplifier l'impact au sein du réseau social.
Par exemple, des plateformes comme Kenji proposent un robot pour Instagram qui fournit de l'aide pour en obtenir plus suiveurs et aime utiliser l’intelligence artificielle, déformer la réalité.
Le défi de la détection
La détection traditionnelle de les robots Elle repose sur l'analyse des caractéristiques des comptes (telles que l'âge ou le nom d'utilisateur), des modèles de comportement (fréquence de publication, contenu répétitif) et du contenu linguistique qu'ils génèrent.
Heureusement, en même temps que l’IA leur donne plus de pouvoir pour se propager et nous cajoler, elle a également fourni des techniques et des modèles plus puissants pour les détecter. Modèles entraînés avec des données réelles les robots et les utilisateurs humains apprennent à faire la distinction entre les deux.
Les les robots se réunir
Les enquêteurs analysent également la structure et l'activité du réseau social autour des comptes suspects. Les les robots Ils forment généralement de grands groupes avec d'autres les robots ou afficher des modèles d’influence inhabituels. Pour découvrir ces connexions cachées, les approches les plus récentes utilisent des analyses basées sur des graphiques.
Les créateurs de les robots Les réseaux sociaux adaptent sans cesse leurs tactiques, transformant la détection en une course continue. De plus, il reste difficile d’obtenir des ensembles de données fiables auprès de les robots réel pour entraîner des modèles d’IA avec eux.
Malgré ces défis, la recherche sur la détection de les robots le social reste vital. Comme la sophistication du les robots, il en va de même pour les outils développés pour les découvrir. La protection de l’intégrité des informations en ligne et du discours social en dépend.
Il est possible que cette évolution et la difficulté de détecter les robots nous amène à un scénario où de moins en moins d’utilisateurs utiliseront les réseaux sociaux. Mais en attendant, il faudra également concentrer les efforts sur l’éducation des usagers et de la société à une utilisation appropriée et responsable de ces espaces.
La sensibilisation, la formation et la recherche doivent être les piliers sur lesquels continuer à travailler pour éviter la conquête totale des réseaux par les robots.
