Google Il a reçu plus de 250 allégations à l’échelle mondiale sur l’utilisation de son modèle de Intelligence artificielle (AI), Gémeaux, Pour créer un matériel terroriste ultrafle, connu sous le nom de «Deepfake» en anglais, ont rapporté jeudi les autorités australiennes.
Le gouvernement australien a réclamé en mars 2024 à Google, Meta, Telegram, Reddit et X qui expliquera les mesures qu’ils ont prises contre la publication et les activités en ligne liées au terrorisme et à la violence extrémiste.
L’Australian Electronic Security Commission (ESA-Sety) a indiqué aujourd’hui, dans un rapport qui comprend les réponses des sociétés technologiques, que ces entreprises peuvent « faire plus pour lutter contre la prolifération des matériaux matériels et terroristes et l’extrémisme violent sur leurs plateformes ».
« Google nous a dit qu’au cours de la période du rapport (du 1er avril 2023 au 29 février 2024), il a reçu 258 plaintes d’utilisateurs concernant des matériaux terroristes ultrafes générés par (le modèle conversationnel de l’IA) Gemini », explique le rapport.
Le géant technologique a également indiqué que au cours de la même période, il avait reçu « 86 plaintes d’utilisateurs concernant des éléments suspects de l’exploitation des enfants et des abus sexuels générés par l’IA ».
La multinationale n’a pas dit combien de plaintes vérifiées, selon le régulateur.
Le commissaire à Esapety, Inman Grant, a souligné que ces données « mettent en évidence à quel point il est important pour les entreprises qui développent l’IA incorporant et testant l’efficacité des mesures de sécurité pour éviter que ce type de matériel ne soit généré ».
L’entité australienne a également signalé que Telegram, WhatsApp et Messenger de Meta « n’avaient pas utilisé de mesures pour détecter les émissions en direct d’actes terroristes », malgré le fait qu’en 2019, une émission suprémaciste blanche sur Facebook une attaque contre deux mosquées dans la ville néo-zélandaise de Christchurch, qui s’est terminée avec 51 morts et 49.
« Nous sommes inquiets lacunes de sécurité qui existent toujours sur Facebook, Étant donné que les utilisateurs ne peuvent pas signaler la diffusion du terrorisme s’ils le voient sans commencer la session de leur compte « , explique le rapport commentant que la même chose se produit sur YouTube.
La réponse des plates-formes aux plaintes des utilisateurs est trop lente, selon ESAfety, et la moitié de WhatsApp a pris une journée pour répondre, Reddit a pris 1,3 jours et les threads (Meta) ont pris 2,5 jours.
En février, Esafety a condamné à une amende de télégramme pour avoir retardé cinq mois pour répondre aux problèmes. Bien que X, qui a également été condamné à une amende et a fait appel de la sanction, n’a pas encore répondu, le rapport n’inclut donc pas les mesures de cette plate-forme.
L’Australie, qui, en 2021, a approuvé la loi de sécurité en ligne pour revendiquer la coopération de la coopération technologique, maintient une position solide pour contrôler les plateformes Internet et a approuvé en novembre dernier que les enfants de moins de 16 ans sont interdits l’accès aux réseaux sociaux.