Seulement, j’ai le droit d’être moi-même. YouTube propose aux célébrités et aux artistes hollywoodiens un outil gratuit pour détecter les deepfakes, élargissant ainsi la lutte contre l’usurpation d’identité générée par l’intelligence artificielle.
Le mois dernier, la plateforme vidéo de Google a lancé son outil de protection d’image, qui permet d’identifier le contenu dans lequel un visage semble modifié ou généré à l’aide de la technologie de l’IA. Initialement, le projet s’adressait aux responsables gouvernementaux, aux journalistes et autres personnels politiques.
Désormais, la plateforme étend l’accès aux acteurs et musiciens via des agences artistiques, des sociétés de gestion et les stars qu’ils représentent.
L’outil permet aux utilisateurs de « rechercher du contenu généré par l’IA qui imite l’apparence d’un participant, comme un deepfake de son visage, et leur permet de le trouver et de demander sa suppression ». Les célébrités et les artistes peuvent y accéder même sans avoir de chaîne sur la plateforme.
« Le fait que YouTube ouvre ses capacités de détection des deepfakes aux personnalités publiques marque un tournant dans la manière dont les plateformes abordent la protection de l’identité à l’ère de l’IA générative », a déclaré Alon Yamin, PDG et co-fondateur de Copyleaks, une plateforme de détection de contenu générée par l’IA.
« La technologie capable de reproduire le visage, la voix et les gestes d’une personne a progressé plus rapidement que les mesures de sécurité, créant ainsi une lacune que les cybercriminels exploitent déjà. »
Cette initiative surgit dans un contexte de multiplication de vidéos hyperréalistes de célébrités décédées, créées avec des applications grand public comme Sora, l’outil OpenAI.
L’application a déclenché une avalanche de vidéos de Michael Jackson et d’Elvis Presley. Le mois dernier, OpenAI a fermé son application Sora.
En février dernier, le réalisateur irlandais Ruairí Robinson a créé une vidéo d’un réalisme saisissant montrant Brad Pitt combattant Tom Cruise sur un toit, basée sur une brève description en deux phrases. La vidéo, qui a largement circulé et suscité une grande inquiétude à Hollywood, a été générée avec Seedance 2.0, un outil appartenant à la société chinoise ByteDance.
Robinson a également créé d’autres vidéos. Dans l’un, Brad Pitt affronte un ninja zombie armé d’une épée, tandis que dans un autre, il combat un robot, aux côtés de l’omniprésent Tom Cruise.
Charles Rivkin, président de la Motion Picture Association, l’association des principales sociétés de production américaines, a exhorté ByteDance à « cesser immédiatement ses activités de violation du droit d’auteur », l’accusant de violer le droit de la propriété intellectuelle. YouTube, de son côté, explique collaborer avec de grandes agences artistiques pour améliorer la détection des images problématiques et mieux protéger les artistes.
La plateforme « fait ce qu’il faut en fournissant gratuitement ces outils aux talents afin qu’ils puissent protéger leurs actifs », déclare Jason Newman de l’agence de représentation et de production Untitled Entertainment.
« Leurs atouts sont leur visage, leur corps, qui ils sont, ce qu’ils font, leur façon de s’exprimer », ajoute-t-il dans une interview au Hollywood Reporter. Le développement de cet outil fait suite aux plaintes de personnalités américaines de premier plan qui dénonçaient la lourdeur de la procédure de signalement et de suppression des deepfakes de YouTube.
« Les enjeux sont importants, car les deepfakes peuvent être utilisés pour diffuser de la désinformation, manipuler les marchés, nuire à la réputation ou créer l’illusion d’un soutien trompeur. Une détection efficace n’est plus facultative », explique Alon Yamin.
« Pour que les systèmes de détection soient efficaces, ils doivent être extrêmement précis, continuellement mis à jour et avoir des règles claires et des procédures de suppression rapides », a-t-il poursuivi.
« Cela n’éliminera pas complètement les deepfakes, mais cela peut réduire considérablement leur portée et leur impact en rendant difficile la circulation des contenus manipulés sans être détectés ou remis en question », a soutenu le directeur de Copyleaks.