L’Intelligence Artificielle vit un tourbillon technologique qui oscille entre les opportunités révolutionnaires qu’elle promet et les dangers qui l’accompagnent, auxquels l’industrie fait la sourde oreille malgré les engagements formels des gouvernements et des entreprises à préserver le bien de l’humanité.
Il existe une agitation très intense autour des développements possibles de l'intelligence artificielle (IA) et des risques associés à cette technologie, car l'industrie semble lancer de nouvelles initiatives très prometteuses sans tenir compte du fait que la société n'est pas préparée aux avancées technologiques qui se produisent. déjà à l’horizon, comme viennent de le prévenir d’éminents experts dans un article publié dans Nature.
La semaine dernière, un deuxième sommet mondial sur l'IA s'est tenu à Séoul (Corée du Sud), dans la continuité de celui organisé il y a six mois en Angleterre, qui a abouti à la Déclaration dite de Bletchley, signée par trente pays, dont le Royaume-Uni, États-Unis, UE, Chine, Espagne, Israël et Arabie Saoudite.
Cette déclaration définissait un cadre de test international pour les modèles d'IA, après que certains experts et professionnels de l'industrie aient appelé à une pause de six mois dans le développement de systèmes puissants. Il a également salué les « énormes opportunités mondiales » de l’IA, tout en mettant en garde contre son potentiel de causer des dommages « catastrophiques ».
Et non moins important, il a également obtenu l'engagement de grandes entreprises technologiques, notamment OpenAI, Google et Meta de Mark Zuckerberg, à coopérer avec les gouvernements pour tester leurs modèles avant leur lancement.
Un tourbillon technologique
Il semble que ces engagements deviennent lettre morte, car, bien que le Royaume-Uni et les États-Unis aient créé des instituts nationaux pour la sécurité de l’IA, le développement de l’intelligence artificielle dans l’industrie s’est poursuivi à un rythme rapide, sans aucune considération éthique. genre, avec un investissement de 100 milliards de dollars cette année, selon The Guardian. L’objectif est d’y consacrer 1 000 milliards de dollars au cours de cette décennie.
Les nouveaux produits émergents sont GPT-4o (OpenAI), la mise à jour Gemini (Google), les nouvelles versions de Llama (Meta) et la nouvelle version de Claude par IA Anthropic, formée par des dissidents d'OpenAI.
Et la course continue : GPT-5 et un nouveau moteur de recherche intelligent sont dans le four OpenIA ; Google s'apprête à lancer Astra, présenté comme un agent d'IA universel et utile au quotidien ; Microsoft prépare un nouveau modèle d'IA ; Apple est en pourparlers avec OpenAI pour installer ChatGPT sur ses smartphones ; et des milliards de dollars sont investis dans l’IA dans des entreprises technologiques de toutes tailles.
L’automatisation des décisions par l’IA représente un risque énorme. / Générateur d'images COPILOT pour T21/Prensa Ibérica.
Changements technologiques
Le fait est que les six mois qui se sont écoulés depuis Bletchley ont été marqués par des changements technologiques importants, comme l'émergence de modèles dits « multimodaux » tels que GPT-4 et Gemini, c'est-à-dire qu'ils peuvent gérer une variété de formats tels que le texte, l'image et audio (modèle Sora d'OpenAI).
Dans ce maelström, il convient également de noter l'émergence de la Retrieval Augmented Generation (RAG), une technique permettant de donner une spécialité à une IA généraliste qui améliore les résultats des grands modèles de langage (LLM) afin qu'ils restent pertinents, précis et utiles dans divers contextes.
Tous ces projets sont concentrés dans quelques géants qui ont assez de muscle pour des développements aussi coûteux, qui dominent aujourd'hui l'industrie et auxquels participent également des concurrents et alliés de plus petit calibre, qui ne peuvent que danser au rythme de ces colosses.
Le problème, comme l’indique l’article de Nature susmentionné, est que les initiatives de gouvernance actuelles manquent de mécanismes et d’institutions pour prévenir les abus et l’imprudence, et s’attaquent à peine aux systèmes autonomes qui représentent la plus grande menace pour la société. En fait, les tentatives visant à réglementer la main cachée de l’IA dans la vie des Américains échouent dans les législatures américaines, confirme AP.
Impuissance sociale
Cela signifie que non seulement les petites entreprises technologiques sont à la merci des géants, mais que cette débauche laisse la société dans le plus grand désarroi, qui participe également à la frénésie au niveau des utilisateurs sans se rendre compte dans quoi elle s'embarque.
Les experts expliquent que les systèmes avancés d’intelligence artificielle (technologie qui exécute des tâches généralement associées aux êtres intelligents) pourraient aider à guérir des maladies et à améliorer le niveau de vie, mais ils risquent également d’éroder la stabilité sociale et de permettre une guerre automatisée.
Ils préviennent cependant que l’évolution de l’industrie technologique vers le développement de systèmes autonomes constitue une menace encore plus grande, car les géants de la technologie se concentrent désormais sur le développement de systèmes d’IA généralistes capables d’agir et de poursuivre leurs objectifs de manière autonome.
Cela signifie que l'augmentation des capacités et de l'autonomie pourrait bientôt amplifier considérablement l'impact de l'IA, avec des risques tels que des dommages sociétaux à grande échelle, des utilisations malveillantes et une perte irréversible du contrôle humain sur les systèmes d'IA autonomes, ont déclaré les experts, ajoutant que les progrès effrénés de l'IA. pourrait conduire à « la marginalisation ou l’extinction de l’humanité ».
La secrétaire britannique à la Technologie, Michelle Donelan, avec le ministre sud-coréen des Sciences et des TIC, Lee Jong-ho, lors de la conférence AI Summit à Séoul le 22 mai. / Ministère des Sciences et des TIC de Corée du Sud.
Nouvelle étape à Séoul
Lors du sommet sud-coréen, également co-organisé par le Royaume-Uni, le ton de Bletchley a été maintenu : il a culminé avec la Déclaration de Séoul, dans laquelle les signataires (une douzaine de pays) se sont engagés à promouvoir la coopération internationale entre les gouvernements, les entreprises, le monde universitaire et la société civile. société sur l’IA. Le noyau dur de cet engagement est constitué des États-Unis, du Royaume-Uni, du Japon, du Canada, de Singapour et de l’European AI Office. Ils se retrouveront à San Francisco (USA) à la fin de cette année.
En parallèle, Amazon, Anthropic, Cohere, Google, IBM, Inflection AI, Meta, Microsoft, Mistral AI, OpenAI, Samsung Electronics et xAi se sont tour à tour engagés à Séoul « à ne développer ou mettre en œuvre aucun modèle ou système si ce n’est le cas ». peuvent appliquer des mesures d’atténuation pour maintenir les risques en dessous des seuils », ainsi qu’identifier, évaluer et gérer les menaces pesant sur leurs algorithmes et les communiquer aux « acteurs externes » et aux autorités gouvernementales.
Tourbillon d’affaires
Cela ne signifie pas nécessairement que le bloc des géants technologiques soit cohérent avec ces engagements, puisque les dangers qui menacent l’IA sont assumés même par les dirigeants engagés dans son développement au sein de ces entreprises de pointe.
OpenAI en est l'exemple le plus éloquent : elle a perdu quatre de ses dirigeants en un mois, le dernier d'entre eux Jan Leikechargé de veiller à ce que les systèmes d’intelligence artificielle (IA) « respectent les valeurs et les objectifs de l’humanité », souligne dans un autre article The Guardian.
Leike suit dans le sillage laissé quelques jours auparavant par moiLya Sutskever, co-fondateur d'OpenAI et figure emblématique du secteur, et par « deux hauts responsables de la sécurité d'OpenAI qui ont récemment démissionné » en raison de désaccords éthiques, souligne The Guardian. Ils étaient?
Il faudra attendre un peu pour voir où se terminera cette spirale.