« Si l’IA est aussi transformatrice que l’électricité l’a été, nous ferions mieux d’être conscients et délibérés lorsque nous décidons comment elle sera introduite dans le monde », a écrit Laura Weidinger, chercheuse scientifique principale chez Google, dans une lettre signée par plus de 1 300 employés d’entreprises d’intelligence artificielle dans laquelle ils mettent en garde contre les risques de cette technologie et demandent de ralentir son développement. Le document, publié en juillet, fait écho à la lettre qu’Albert Einstein a adressée à Franklin D. Roosevelt sur le potentiel des armes nucléaires. La prolifération nucléaire a jusqu’à présent servi de comparaison historique pour alerter sur les dangers de l’IA, mais la perception de cette technologie comme une nouvelle espèce avec laquelle coexister se développe. C’est pour cette raison que les dirigeants d’entreprises créatives, d’Anthropic à OpenAI et Google, ont proposé ces derniers jours de réglementer la technologie et de ralentir l’avancement de ses capacités.
Je crains que d’ici 6 à 12 mois, un tel essaim puisse prendre le contrôle de l’ensemble d’Internet via un botnet persistant (causant potentiellement des centaines de milliards de dollars de dégâts).
Dario Amodei, PDG d’Anthropic, a appelé ce samedi dans un essai de 3 800 mots à un ralentissement mondial du développement de l’IA. « Je crains que, d’ici 6 à 12 mois, un tel essaim puisse prendre le contrôle de l’ensemble d’Internet via un botnet persistant (causant potentiellement des centaines de milliards de dollars de dégâts) et que l’ampleur des dégâts continue d’augmenter si l’IA devient plus puissante sans les garanties nécessaires en place », a-t-il prévenu. Amodei a publié le texte peu de temps après qu’un ingénieur d’Anthropic et ancien employé d’OpenAI, Jacob Coxon, a publiquement démissionné de son poste par souci de contribuer au développement de « systèmes surhumains capables de pirater n’importe quoi, de révolutionner n’importe quel domaine du jour au lendemain et d’acquérir un pouvoir et des ressources réels ». De même, ce dimanche, Amodei a assuré, dans une interview sur CBS : « Pendant trop longtemps, l’industrie a menti aux gens sur le fait que cette technologie comportait des risques. Nous ne l’avons jamais fait (chez Anthropic), mais une grande partie de l’industrie l’a fait. »
L’essai de Dario indique la bonne voie à suivre. Les détails doivent être réglés, mais la direction est la bonne pour faire face à ce moment critique.
Des cadres supérieurs d’autres grandes sociétés d’IA se sont rapidement joints à l’initiative. Elon Musk, dont la société de fusées SpaceX a augmenté ses investissements dans l’IA, est d’accord avec Amodei sur la nécessité de ralentir le rythme de l’IA. Demis Hassabis, responsable de ce domaine chez Alphabet, la société mère de Google, et lauréat du prix Nobel de chimie pour ses avancées dans l’utilisation de l’IA appliquée à la biologie, a également déclaré qu’il considérait que « c’est la bonne voie ».
Je suis d’accord sur le fait que nous devons modérer le rythme de la frontière (technologique). Cela a été l’un des thèmes principaux des discussions que nous avons eues à OpenAI ces dernières semaines.
Sam Altman, directeur exécutif d’OpenAI, le principal rival d’Anthropic, s’est également joint à la proposition. La technologie de la société fondatrice de ChatGPT a récemment subi un revers de réputation suite à un incident au cours duquel un agent autonome, conçu et testé par l’entreprise, a décidé de contourner les mesures de sécurité sans autorisation pour lancer une cyberattaque contre la société Hugging Face, une célèbre bibliothèque d’IA. Cet été également et après avoir pris connaissance de l’incident provoqué par le créateur de ChatGPT, Anthropic a expliqué dans un communiqué que son modèle, Claude, avait réussi pirater trois sociétés après une erreur de configuration lui ont permis de se connecter à Internet.
Arrêter les débuts d’OpenAI en bourse
L’inquiétude quant à l’avenir de l’IA va au-delà de l’usage abusif que les humains peuvent en faire, quelque chose qui, dans une certaine mesure, reste encore sous le contrôle des entreprises. Ce qui inquiète les gourous de cette technologie, c’est le potentiel d’auto-amélioration dite récursive, un processus dans lequel les systèmes d’IA pourraient réécrire et améliorer leur propre code, accélérant de façon exponentielle leurs capacités jusqu’à libérer leur propre intelligence. Si cela se produit, cela pourrait conduire au développement de la superintelligence, mais aussi à la perte du contrôle de ses propres créateurs.
Compte tenu de ces risques, et au-delà des déclarations en faveur de l’initiative visant à ralentir le développement de l’IA, Altman a exclu une introduction en bourse de l’entreprise à court terme, estimant que la priorité doit être de résoudre les défis de sécurité de ses modèles. « Nous ne nous précipitons pas vers une introduction en bourse (offre publique). En fait, je pense que, compte tenu de tout ce qui se passe en matière de sécurité, ce serait un moment peu judicieux pour entrer en bourse », a déclaré le PDG d’OpenAI lors d’un entretien avec le magazine Fortune, dans lequel il excluait catégoriquement une introduction en bourse en 2026.
La course à l’introduction en bourse oppose OpenAI à son rival historique Anthropic, qui a jusqu’à présent maintenu ses projets d’entrée en bourse et serait déjà plongé dans des négociations confidentielles pour le faire en octobre. OpenAI, en fait, avait exclu de le rendre public avant la remise en question de la sécurité de l’IA. Cette décision s’expliquait jusqu’à présent par l’instabilité financière découlant des investissements élevés dans les centres de données et de la volatilité des marchés. Les deux sociétés aspirent à une valorisation proche du billion de dollars, dans le cadre d’une opération qui pourrait devenir la plus grande introduction en bourse de ces derniers temps.
Une question géopolitique
Toutefois, la concurrence dans le domaine de l’IA ne se limite pas à un seul côté de l’Atlantique. Les startups chinoises ont créé des modèles d’IA compétitifs et, alors que la maîtrise de cette technologie apparaît comme l’un des principaux défis de sécurité nationale du siècle, il semble peu probable que Washington et Pékin parviennent à un accord pour freiner simultanément son développement.
Dans ce contexte, et malgré les inquiétudes croissantes quant à leurs risques, la régulation de ces modèles ou des entreprises qui les développent ne figure, pour l’instant, parmi les priorités d’aucune des deux superpuissances. « Nous sommes à la tête de la Chine en matière d’IA, nous sommes le pays le plus sophistiqué au monde. Et franchement, je veux que cela continue ainsi, car celui qui gagne en IA gagne », a déclaré dimanche le président américain Donald Trump.