Google a été contraint de suspendre temporairement la génération d'images dans Gémeauxvotre chatbot intelligence artificielle (IA), après avoir reproduit toutes sortes d'« inexactitudes dans certaines représentations historiques ».
Le géant américain de la technologie s'est excusé ce jeudi après que plusieurs utilisateurs ont signalé que son modèle de langage génère des images imprécises, représentant des soldats Nazis aux pères fondateurs de États Unis en tant que personnes racialisées. « Nous travaillons à améliorer immédiatement ce type de représentation », ont-ils expliqué.
Les programmes de IA générative ont une longue histoire d'amplification stéréotypes raciaux et le genre. L'année dernière, une enquête menée par Washington Post a révélé que les programmes de génération d'images tels que Diffusion stable soit DALL-E ils ont amplifié les préjugés. Par exemple, si on leur demandait « une personne productive », ils répondaient par des hommes blancs et si on leur demandait « une personne dans les services sociaux », le résultat était des personnes de couleur.
En 2015, Google Photos a dû supprimer la possibilité de classer ses photos lorsque le système a étiqueté une image de deux personnes noires comme des gorilles. L'entreprise ne voulait pas que Gemini soit confrontée au même problème, mais ses tentatives de promotion diversité raciale et le genre ont engendré un manque de précision historique. « La génération d'images IA de Gemini génère un large éventail de personnes. Et c'est une bonne chose en général, car elle est utilisée par des personnes du monde entier. Mais ici, elle échoue », ont-ils reconnu.
Critiques d'utilisateurs
Ces derniers jours, un groupe d'utilisateurs a dénoncé cette réalité dans le réseaux sociaux. La controverse a été promue – mais pas exclusivement – par des personnalités conservatrices comme le magnat de la technologie. Elon Musk ou le philosophe Jordan Peterson, qui ont accusé Google d'avoir un parti pris libéral qui nuit aux Blancs. « La flambée autour de Gemini est le dernier exemple en date de la façon dont les produits d'IA non éprouvés sont impliqués dans des guerres culturelles sur la diversité, la modération et la représentation du contenu », explique-t-il. Washington Post. Ces accusations avaient déjà eu lieu auparavant ChatGPT.
D'autres utilisateurs ont critiqué Google pour des raisons plus techniques qu'idéologiques, soulignant que le diversité Cela a du sens lorsqu'on demande à Gemini de générer des images de femmes ou de cuisinières américaines, mais pas lorsqu'on lui demande de comprendre le contexte historique de la représentation des Vikings ou des soldats allemands pendant la Seconde Guerre mondiale.
Google propose aux utilisateurs de Gemini la possibilité de générer des images depuis début février. L'entreprise a activé cette fonction avec la volonté de suivre le rythme OpenAIla startup soutenue par Microsoft, son principal rival, et responsable de ChatGPT. Toutefois, les critiques laissent penser que cela IA Il a été ouvert au grand public sans avoir vérifié au préalable qu'il n'avait pas commis les erreurs qui ont conduit à sa suspension temporaire. « Nous n'aurons pas de systèmes racistes si nous préservons bien les données (avec lesquelles ils sont formés) dès le début », a-t-il expliqué. Marguerite Mitchellancien co-responsable de l'éthique de l'IA chez Google.