Lorsque Facebook a engagé Yael Eisenstat pour diriger son équipe de publicité politique et d’intégrité électorale en juin 2018, elle a averti l’entreprise qu’elle n’accepterait le défi que si elle avait le soutien nécessaire pour changer les choses. Six mois et une promesse non tenue plus tard, l’experte américaine en polarisation et extrémisme a quitté son poste pour dénoncer publiquement que le géant de la technologie connaissait et cachait l’impact néfaste de ses réseaux sociaux.
Eisenstat sait de quoi il parle. Son parcours professionnel le démontre. Pendant des décennies, il a travaillé comme agent de la CIA et a étudié en profondeur le fonctionnement des processus de radicalisation. Ce poste l’a amenée à devenir conseillère en matière de sécurité nationale et de lutte contre le terrorisme auprès des États-Unis d’alors. Le vice-président Joe Biden. Après avoir démissionné de ses fonctions de direction chez Facebook, il a consacré sa vie à dénoncer l’impact des plateformes numériques sur le discours public et, par conséquent, sur la démocratie.
Eisenstat s’entretient avec EL PERIÓDICO dans le cadre de la Première Rencontre Internationale des Droits Numériques, une initiative de Mobile World Capital Barcelona et du gouvernement espagnol qui rassemble cette semaine à Barcelone certains des penseurs technologiques les plus influents au monde.
« Notre situation est plus précaire qu’en 2018 »
Cela fait sept ans qu’il a quitté Facebook. Pendant tout ce temps, les réseaux sociaux nous ont-ils conduit à une situation encore pire ?
Les grandes plateformes sont devenues encore plus puissantes. Ils disposent désormais d’outils beaucoup plus sophistiqués et d’une plus grande capacité non seulement à nous connecter à leurs plateformes, mais également à utiliser une intelligence artificielle beaucoup plus avancée. Cette IA est utilisée dans leurs algorithmes, peut-être aussi dans la modération des contenus, mais surtout dans la manière dont ils organisent et nous fournissent les informations. Dans le même temps, les propriétaires des plus grandes plateformes ont renoncé aux politiques de sécurité de base et à leur application. C’est une combinaison dangereuse. C’est pourquoi nous nous trouvons dans une situation plus précaire qu’à l’époque.
En Europe également ?
Je pense que notre situation est pire, surtout aux États-Unis. Je tiens à être très clair à ce sujet : l’Europe a fait un meilleur travail en essayant de comprendre comment protéger le public de certaines des externalités les plus dangereuses de ces entreprises, tout en permettant idéalement à ces entreprises de continuer à prospérer. Mais aux États-Unis, nous avons reculé et non avancé.
Pour tendre la main à Trump, les géants du numérique ont supprimé leurs équipes de modération des contenus et de vérification des faits, ainsi que leurs politiques en matière de discours de haine et de diversité. Est-ce la tempête parfaite pour dégrader l’écosystème de l’information ?
Cette alliance crée un environnement très dangereux pour des questions telles que l’intégrité électorale ou l’éventuelle incitation à la violence autour des élections. Aux États-Unis, le niveau de violence politique augmente partout et ce n’est pas la faute exclusive des réseaux sociaux. Cependant, ils continuent d’encourager cet extrémisme. Les entreprises technologiques contribuent à normaliser des idéologies qui étaient auparavant plutôt marginales. Non seulement ils permettent aux gens d’être plus extrémistes, plus haineux ou plus sensationnalistes : ils les encouragent à l’être, car c’est ainsi que leur audience grandit. C’est ainsi que les algorithmes leur donnent de la visibilité. Le problème réside dans la conception même de ces systèmes, dans un modèle économique néfaste.
« Les réseaux sociaux ne permettent pas seulement aux gens d’être plus extrémistes, plus haineux ou plus sensationnalistes : ils les encouragent à l’être, car c’est ainsi que leur audience grandit »
Ce modèle économique basé sur l’exploitation de notre attention et de notre vie privée est toujours valable dans l’IA. Cela va-t-il encore amplifier les risques sociaux ?
Une partie de cela reste à voir. Le modèle économique d’entreprises comme OpenAI ou Anthropic n’est pas encore tout à fait clair. Ils sont financés de telle manière qu’ils n’ont pas encore trop à se soucier de la façon dont ils vont gagner de l’argent à l’avenir, mais ils devront le définir. D’autre part, il existe des entreprises qui diffusent ce type de contenus, comme les réseaux sociaux. Nous avons très peu de temps pour décider quelles seront les barrières de protection et comment elles peuvent être distribuées. en ligne les contenus générés artificiellement : faut-il les étiqueter, si ces entreprises vont établir des normes sur la viralité des contenus inauthentiques, et bien d’autres questions qui n’ont pas encore été résolues. Mais si le modèle économique reste ce qu’il est aujourd’hui, je ne vois aucune raison de penser que cela ne deviendra pas un terrain encore plus dangereux.
Comment pensez-vous que cela affectera les élections législatives américaines de novembre prochain ?
Malheureusement, les États-Unis se trouvent presque toujours dans un cycle électoral. C’est l’un des problèmes. Il ne fait aucun doute que les discours s’échauffent de tous côtés. Dans le même temps, les réseaux sociaux disent : « Ce n’est pas notre problème. Nous n’allons pas modérer le contenu. Nous n’allons pas nous impliquer. » Ce n’est pas seulement dangereux, cela soulève d’importantes questions. Si un réseau social a décidé que la violence politique est acceptable, je ne sais pas comment il peut prétendre qu’il n’a aucune responsabilité si quelque chose se produit dans le monde réel et que l’on peut remonter ce fait à une personne validée ou radicalisée. en ligne.
Donald Trump, aux côtés de Larry Ellison (Oracle), Masayoshi Son (Softbank) et Sam Altman (OpenAI), lors d’un événement à la Maison Blanche. / AARON SCHWARTZ / PISCINE / EFE
La polarisation alimentée par les médias sociaux peut-elle se retourner contre vous ? Nous assistons déjà à une réaction sociale qui opte pour la violence à la fois contre Trump et contre la Silicon Valley.
La colère et la peur ont toujours été des éléments clés du paysage politique américain, depuis le début. Mais lorsque vous permettez à votre entreprise, et à la façon dont vous la concevez, de récompenser la colère et la peur ; Lorsque vous amplifiez, promouvez et recommandez ce type de langage, vous contribuez à ce climat. Le climat de violence politique est alimenté depuis des années. La triste réalité est que quiconque pense qu’il est en sécurité, que rien ne se passe et que cela ne l’affectera jamais se trompe lourdement. Plus on met d’essence sur le feu, quel que soit le montant d’argent qu’elles en tirent, plus grand est le risque que des attaques soient commises contre ces entreprises.
« La colère et la peur ont toujours été des éléments clés du paysage politique américain »
Après des années d’études sur la polarisation des réseaux, que pensez-vous du fait que le président de votre pays ait transformé la Maison Blanche en une usine de contenus incendiaires, avec des mèmes et de la propagande générés par l’IA ?
Utiliser des outils de communication à des fins politiques, y compris la propagande, est quelque chose qui a toujours existé dans les campagnes politiques et dans le monde politique. Ce qui est nouveau, c’est l’utilisation de tactiques typiques de la gamification des incitations sur les réseaux sociaux : être grandiloquent pour capter l’attention de tous. Le fait que le gouvernement américain lui-même utilise les médias sociaux pour diffuser des théories du complot haineuses, fomenter la division et attaquer des individus ou des groupes entiers de personnes représente un niveau de danger complètement différent, quelque chose que je pense que nous n’avons pas vu aux États-Unis, du moins depuis longtemps.