L’intelligence artificielle peut-elle surpasser les capacités cognitives des êtres humains ? Cette question, réfutée par un grand nombre d’experts, continue de diviser l’industrie technologique plus d’un demi-siècle après la naissance de cette discipline et marque la situation frénétique actuelle du secteur.
Plus de 850 scientifiques, législateurs, chefs religieux et célébrités ont signé une lettre ouverte publiée mercredi dans laquelle ils exigent l’interdiction du développement de l’IA superintelligente, une étape d’évolution de ces systèmes pour l’instant reléguée à la science-fiction.
« Nous exigeons que le développement de la superintelligence soit interdit et qu’il ne soit pas levé tant qu’il n’y aura pas un large consensus scientifique sur le fait que cela se fera de manière sûre et contrôlée, et qu’il n’y aura pas une forte acceptation du public », peut-on lire dans la lettre. Cette hypothétique IA toute-puissante a « soulevé des inquiétudes, allant de l’obsolescence économique humaine et de la perte de pouvoir, aux pertes de liberté, de libertés civiles, de dignité et de contrôle, aux risques pour la sécurité nationale et même à une éventuelle extinction humaine ».
Signataires célèbres
Parmi les signataires figurent cinq lauréats du prix Nobel, dont Geoffrey Hinton et Yoshua Bengio, surnommés les « parrains de l’IA » pour leurs découvertes scientifiques dans le domaine. Sont également inclus des leaders technologiques tels que Steve Wozniak, co-fondateur d’Apple, ou l’homme d’affaires Richard Branson, propriétaire du groupe Virgin.
Steve Wozniak, co-fondateur d’Apple et créateur de l’emblématique ordinateur Macintosh, au Mobile World Congress de Barcelone. / Ferran Nadeu
Plus surprenante est la participation de Paolo Benanti, conseiller du Pape ; le prince Harry et Meghan Markle, duc et duchesse de Sussex ; ou encore Steve Bannon, gourou d’extrême droite et proche allié du président américain Donald Trump. Figurent également sur la liste l’auteur Yuval Noah Harari, un habitué du discours apocalyptique sur l’IA, les acteurs Joseph Gordon-Levitt et Stephen Fry et le rappeur will.i.am, entre autres.
Terme de mode
La lettre a été coordonnée et promue par l’organisation à but non lucratif Future of Life Institute, qui avait déjà demandé en 2023 de suspendre le développement des systèmes les plus intelligents après avoir dénoncé que la course « incontrôlée » aux entreprises pour dominer le marché émergent de l’IA générative pouvait entraîner des « risques profonds pour l’humanité ». La demande a trouvé un écho, mais n’a pas atteint son objectif.
Le Future of Life Institute prévient que la superintelligence – un système technologique capable de surpasser les performances humaines dans toutes les tâches utiles – pourrait arriver dans un ou deux ans seulement. Bien que critique, ce message s’aligne sur celui d’entreprises telles que OpenAI, responsable de ChatGPT ; Google, Meta ou xAI d’Elon Musk, qui utilisent ce mot à la mode pour promouvoir leur rôle dans la concurrence avec le lancement de grands modèles de langage (LLM) de plus en plus avancés.
Une enquête récente publiée par l’organisation indique que 64 % des Américains estiment que la superintelligence « ne devrait pas être développée tant qu’elle n’est pas manifestement sûre et contrôlable » et appelle à une réglementation plus stricte. « Il y a un petit nombre d’entreprises très riches qui les construisent, et un très grand nombre de personnes qui préféreraient emprunter une voie différente », a prévenu Anthony Aguirre, directeur exécutif de l’organisation, dans des déclarations au magazine Time.
Abonnez-vous pour continuer la lecture