Les grandes entreprises technologiques qui mènent le développement de intelligence artificielle (IA) signera cette semaine un manifeste dans lequel ils s'engageront à lutter contre l'utilisation de 'contrefaçons profondes' pour la manipulation politique en 2024, ce sera la plus grande année électorale de l’histoire.
L'accord sera signé par Google, Microsoft, But (Facebook), OpenAI, Adobe et TIC Tac. Cependant, ces géants n’interdiront pas les contenus politiques trompeurs générés avec leurs applications. IAselon une copie obtenue par Washington Post. Au lieu de cela, ils promettront de créer des systèmes d’identification et d’alerte. De plus, les utilisateurs seront « éduqués » pour les aider à faire face aux deepfakes. Pire encore, il s’agira d’un engagement volontaire, de sorte qu’ils ne seront pas obligés de faire ce qu’ils disent qu’ils feront.
Les « Deepfakes » utilisent l'IA pour générer des images et du son capables de cloner de manière convaincante le visage et la voix de leurs victimes, usurpant ainsi leur identité. Ce technologie Elle est de plus en plus sophistiquée, ce qui rend difficile de déterminer si ce que nous voyons et entendons est réel ou s’il s’agit d’une campagne de manipulation.
Risque électoral
Cette possibilité représente un risque majeur pour le démocratie. « La génération et la distribution intentionnelles et non divulguées de contenus électoraux trompeurs basés sur l'IA peuvent induire le public en erreur et mettre en danger l'intégrité des processus électoraux », reconnaît l'accord.
Au cours des prochains mois, plus de la moitié de la population mondiale est appelée à participer à plus de 70 élections. Cela fait de 2024 une année critique. Ces derniers jours, des « deepfakes » ont déjà été détectés qui usurpaient l'identité de la voix du président Joe Biden pour tenter de tromper les électeurs démocrates, mais aussi des clones d'IA à des fins de propagande, comme celui utilisé par Imran Khanle candidat emprisonné à la présidentielle du Pakistan.
D'autres entreprises pourraient rejoindre le manifeste. L'une des principales absences est Xla réseau social anciennement connu sous le nom Twittercontrôlé par le magnat Elon Musk. Les signataires devraient annoncer leur accord vendredi lors de la conférence sur la sécurité de Munich.