Fin 2019, Karen Hao est devenue la première journaliste à visiter les bureaux d’OpenAI. A cette époque, la start-up d’intelligence artificielle était inconnue en dehors de la Silicon Valley. Son chef, Sam Altman, a insisté sur le fait que sa mission était d’allumer une machine dotée de la capacité d’apprentissage et de raisonnement de l’esprit humain pour sauver le monde, mais Hao a pu détecter de nombreuses fissures dans ce discours idéaliste. Après avoir publié son rapport critique et rigoureux, l’entreprise lui a de nouveau interdit l’accès à son siège. « Au début, je me sentais très mal (…) mais l’important n’est pas de maintenir l’accès, mais de dire la vérité », explique-t-il à EL PERIÓDICO. Deux ans plus tard, le lancement de ChatGPT a déclenché une concurrence commerciale et géopolitique qui a déjà modifié notre réalité.
Hao a utilisé le dédain d’OpenAI comme motivation. Ses compétences journalistiques et ses connaissances techniques approfondies (elle est ingénieure en mécanique du MIT) se sont cristallisées dans L’empire de l’IA (Peninsula Editions), une enquête encyclopédique qui décortique avec une précision chirurgicale l’impact global de l’industrie de l’IA. Il compte plus de 200 entretiens, des documents internes et une lucidité narrative qui transforme son premier livre, un essai de près de 600 pages, en une lecture passionnante. Altman l’a tellement détesté qu’il a tweeté que personne ne devrait le lire.
Comparez l’industrie de l’IA aux empires antiques. Parce que?
Parce que ces entreprises accumulent un pouvoir économique et politique historique.
Comme?
Je fais quatre parallèles. La première est l’appropriation de ressources qui ne leur appartiennent pas, comme les données qu’ils collectent sur Internet pour entraîner leurs modèles. La seconde est l’exploitation par le travail de travailleurs qui n’obtiennent presque rien en retour et qui se manifeste également dans la conception de systèmes qui automatisent le travail et érodent les droits du travail. Ce n’est pas une caractéristique inhérente à l’IA, mais un choix politique. La troisième est qu’ils monopolisent la production de connaissances, captent les talents de la recherche en IA et déforment la compréhension fondamentale du public des limites et des capacités de ces technologies, en autorisant uniquement certains types de recherche et en censurant les recherches critiques. Et la quatrième est qu’ils ont recours à un discours moral impératif sur leur existence.
L’automatisation du travail et l’érosion des droits du travail ne sont pas une caractéristique inhérente à l’IA, mais un choix politique
Gagnez la course pour empêcher la Chine de le faire.
Ils disent qu’ils sont de bons empires avec pour mission civilisatrice d’apporter le progrès et la modernité à toute l’humanité. Ils ont besoin d’un accès sans restriction à toutes ces ressources car ils sont engagés dans une intense course existentielle avec l’empire du mal : la Chine, selon la Silicon Valley. Et si les méchants atteignent le but en premier, cela conduira à la disparition de l’humanité. Au lieu de cela, si les États-Unis gagnent, l’humanité aura l’opportunité de devenir une utopie ou un paradis pour l’IA.
La journaliste Karen Hao a enquêté sur les entreprises d’IA pour le MIT Technology Review, le Wall Street Journal et The Atlantic. / Shoko Takayasu
De nombreux politiciens adhèrent sans réserve au discours selon lequel l’IA est synonyme de progrès. Mais pour qu’un empire prospère, il faut toujours qu’une partie de la population soit sacrifiée.
Exact. Nous devons remettre en question la croyance selon laquelle nous avons besoin d’empires et des zones de sacrifice qu’ils impliquent pour récolter les bénéfices de l’IA. Il existe certains types d’IA qui peuvent être profondément bénéfiques pour les soins de santé ou les opportunités économiques, mais il faut séparer cela de la conception que vend la Silicon Valley, qui est la voie impériale qui nécessite sa capacité à contrôler toutes les terres, l’énergie, l’eau, les données, la main-d’œuvre et le capital du monde pour produire quelque chose qui, en fin de compte, ne génère pas autant de revenus et n’est pas vraiment un modèle commercial viable. C’est pourquoi je pense que lorsque les politiciens tombent dans le piège selon lequel il n’existe qu’une seule voie pour développer l’IA, ils tombent également dans l’erreur selon laquelle il existe certains types de dommages planétaires que nous devons accepter.
La Silicon Valley veut contrôler toutes les terres, l’énergie, l’eau, les données, la main-d’œuvre et les capitaux du monde pour produire quelque chose qui ne constitue finalement pas un modèle économique viable.
Dommages à l’environnement, au travail…
Pas seul. Ce qui se passe est très dangereux car il ne s’agit pas de dégâts isolés, mais plutôt d’un danger pour la démocratie. Avec l’administration Trump 2.0, nous avons vu comment elle prive tant de gens de leurs ressources, de leur capacité d’agir, qu’ils n’ont plus le sentiment de pouvoir contrôler leur avenir. Nous revenons ainsi à une époque où un petit groupe de personnes au sommet peut avoir une profonde influence sur la vie de milliards de personnes dans le monde. Et c’est cette érosion fondamentale de la liberté qui permet à ces empires de proliférer.
OpenAI est passé de la promesse de guérir le cancer à la création de quelque chose qui ressemble à un chatbot porno. L’entreprise est en passe de perdre 27 milliards de dollars au cours des deux prochaines années. Il boom des investissements en IA sont constitués de sept entreprises qui se prêtent mutuellement des prêts de manière circulaire. Et l’investisseur Michael Burry, qui avait anticipé la crise hypothécaire de 2008, a vendu ses parts dans Nvidia. Est-ce une entreprise viable ?
Ce n’est pas du tout une entreprise viable. Et ils sont déjà à court de moyens de le monétiser. Ils ont essayé les abonnements, mais il s’avère que la plupart des particuliers et des entreprises ne veulent pas payer pour cette technologie. Alors maintenant, ils essaient d’élaborer une stratégie pour commencer à diffuser des annonces. Mais cela ne fonctionne même pas pour Google, qui possède la plus grande activité publicitaire de l’histoire. OpenAI tente de combler un trou d’environ 1,4 milliard de dollars. Ils tentent également de lancer une série de produits de consommation qui, comme Sora 2, sont devenus viraux puis sont tombés. Je ne vois pas comment ils vont combler cet écart, car il n’y a jamais eu de modèle commercial dans l’industrie technologique qui ait généré autant de revenus que nécessaire. Les choses ne s’annoncent pas bien.
Il n’y a jamais eu de modèle économique technologique générant autant de revenus que les entreprises d’IA en ont besoin.
Avec les réseaux sociaux, nous nous habituons à renoncer à notre vie privée. Qu’est-ce qui change avec l’IA ?
Dans le passé, les gens fournissaient toutes leurs données sans se rendre compte que ces entreprises pouvaient éroder les démocraties du monde entier. Ensuite, nous avons vu comment Meta promouvait le nettoyage ethnique au Myanmar et la violence dans le monde. Les empires de l’IA ont subi des dégâts à un autre niveau. Le rythme actuel de construction de centres de données provoque une augmentation historique de la demande énergétique aux États-Unis et en Europe et commence à mettre en péril les objectifs de lutte contre le changement climatique, annulant tous les progrès climatiques que nous avons réalisés, augmentant la pollution de l’air dans les communautés et aggravant la crise de l’eau.
Alors que diriez-vous aux utilisateurs de ChatGPT ?
Lorsqu’ils fournissent des données à ces entreprises, ils donnent en réalité du pouvoir à des empires afin qu’ils deviennent de plus en plus forts et de moins en moins responsables. Non seulement ils érodent notre environnement, notre santé, notre vie privée, notre propriété intellectuelle et notre capacité future à bénéficier d’opportunités économiques. Ils érodent également les libertés et les capacités fondamentales pour déterminer notre avenir. Quel outil peut valoir notre liberté ?
Les centres de données doivent être constamment alimentés en énergie / Agences
Il faut miser sur des alternatives.
Il existe de nombreuses façons de développer des technologies d’IA bénéfiques qui ne nécessitent pas d’empires, qui ne nécessitent pas ce comportement d’exploitation et d’extraction. Plus l’image de marque d’entreprises comme OpenAI est renforcée, moins les investissements sont alloués à des alternatives qui ne nous nuisent pas. Au premier trimestre 2025, près de 50 % du capital-risque est allé aux seuls OpenAI et Anthropic. Les investissements dans les technologies climatiques ont considérablement diminué parce que les mêmes investisseurs y retirent leur argent et l’investissent dans le développement de ces modèles d’IA. Ces empires nuisent à notre avenir bien plus que nous ne le pensons.
Les empires de l’IA érodent les libertés et les capacités fondamentales pour déterminer notre avenir
L’open source est-il une alternative ?
Bien sûr. Lorsque des modèles open source sont utilisés, le pouvoir n’est pas donné à l’empire. Les données ne quittent pas votre appareil. Ils ne se retrouvent pas sur le serveur d’une entreprise qui les utilise ensuite pour créer des modèles de plus en plus grands. La meilleure façon de défier les empires est de saper leur monopolisation du savoir. L’open source permet cela car des chercheurs indépendants qui ne sont pas financés par ces entreprises peuvent étudier ces modèles, comprendre les limites et les capacités de ces technologies et créer des connaissances d’intérêt public sur la manière dont nous souhaitons utiliser ces outils, comment les réglementer et les gouverner. Nous avons besoin de davantage de production indépendante de connaissances pour saper le monopole narratif dont disposent les empires.
Les géants qui souhaitent déployer leurs centres de données vendent des promesses d’investissements importants et de création d’emplois à des politiciens locaux qui ne connaissent pas la technologie et ne pensent qu’aux cycles électoraux. Cette asymétrie de pouvoir constitue-t-elle une menace pour les communautés ?
Certainement. Non seulement ils se rendent dans les villes les plus vulnérables et économiquement sous-développées pour séduire le gouvernement local au pouvoir, mais ils le font à huis clos, cachant leurs activités, afin que les habitants ne puissent pas protester. Aux États-Unis, ils demandent déjà aux fonctionnaires de signer des accords de confidentialité avant même de négocier ces accords sur les centres de données. Ils rendent impossible le fonctionnement de la démocratie parce qu’ils nient que les gens puissent s’opposer à la façon dont ils utilisent d’énormes quantités de ressources publiques comme l’eau ou à la façon dont ils augmentent leurs factures d’énergie. Ils agissent dans le noir parce qu’ils veulent installer leurs infrastructures avant que les citoyens ne réagissent, ce qui montre à quel point leurs actions sont impopulaires.
Deux exemplaires de « L’Empire de l’IA », publié et traduit en espagnol par Ediciones Península. /Carles Planas Bou
Nous ne pouvons pas parler d’IA sans évoquer les tâches cruciales qui sont sous-traitées de manière précaire dans les pays du Sud. Quelle est cette autre réalité qu’ils tentent de cacher ?
L’utilisateur moyen de ChatGPT ne réalise pas que la raison pour laquelle il n’est pas inondé de discours de haine toxiques et de harcèlement est en fait parce que d’autres personnes y sont exposées pour apprendre aux filtres de modération de contenu ce qu’il faut bloquer. OpenAI a embauché ces travailleurs au Kenya. Leur tâche est similaire à celle des modérateurs de contenu sur les réseaux sociaux, voire pire, car on leur montre non seulement les choses les plus nuisibles que les gens publient sur Internet, mais aussi les choses les plus nuisibles créées par leurs propres modèles d’IA. C’est comme un espace infini de douleur.
Abonnez-vous pour continuer la lecture