Les réseaux sociaux sont un espace pour partager des images, des vidéos et interagir avec le reste de la société. Cependant, Ces dernières années, ils sont également devenus un lieu où les gens diffusent des messages haineux – le plus souvent de manière anonyme. Il suffit de jeter un coup d’œil sur ces plateformes au cours des derniers jours – et au rythme des derniers événements – pour s’en convaincre.
À la suite de ce type de messages, Le procureur de l’unité des crimes de haine du bureau du procureur général de l’État, Miguel Ángel Aguilar, a annoncé hier dans une interview au Être en chaîne que le département étudie une réforme du Code pénal afin que les personnes reconnues coupables de ces publications sur les réseaux sociaux ne puissent plus y accéder.
Ces types de messages peuvent-ils être contrôlés et détectés ? La solution n’est pas claire, même si certains experts débattent de cette situation depuis un certain temps. « Avec l’intelligence artificielle « Les nuances de haine ou d’ironie dans certains messages pourraient être contrôlées et détectées »explique J.Avier Palanca, professeur du Département de systèmes d’information et d’informatique de l’UPV et membre de l’Institut valencien de recherche sur l’intelligence artificielle (VRAIN). En ce sens, Palanca reconnaît que, grâce à l’IA, beaucoup de travail est réalisé dans le département autour de la désinformation et de la propagation des canulars. Dans certains réseaux sociaux comme X (ancien Twitter), ce sont les utilisateurs eux-mêmes qui ajoutent des informations lorsque de fausses nouvelles circulent. « « Cela pourrait être fait avec l’IA en accédant à des médias, des sources ou des bases de données fiables, mais cela est compliqué et demande beaucoup d’efforts », reconnaît l’expert, qui ajoute que « les réseaux sociaux finiront par contrôler ces messages pour gagner en fiabilité ».
Confidentialité
Certains experts dénoncent depuis longtemps la nécessité contrôler les profils anonymes. « Éliminer l’anonymat nous aiderait au niveau technologique, car plus l’IA reçoit d’informations, meilleurs sont les résultats. Cependant, cela impliquerait d’enquêter sur la vie privée », souligne-t-il.
En ce sens, le Le valencien Ricard Martínez, l’un des experts nommés par le gouvernement pour concevoir la stratégie qui favorise un environnement numérique sécuriséou bien, il prétend que lorsqu’une personne s’inscrit sur un réseau social, elle établit une relation juridique en vertu de laquelle cette personne devrait avoir une identité. « Il est de l’obligation du prestataire de valider l’identité ou de disposer d’informations permettant de localiser le sujet, donc personne sur un réseau social n’est anonyme, puisque Le réseau doit fournir les données techniques permettant de localiser l’adresse IP ou tout identifiant pertinent faisant l’objet de l’enregistrement.« , dit-il.
Un autre doute que ce type de commentaires incitant à la haine suscite parmi les experts est la manière dont la liberté d’expression est contrôlée. Selon lui, « l’opinion subjective permet un plus grand degré de flexibilité, nous ne sommes donc pas obligés de vérifier les faits ». Cependant, rappelez-vous que cela ne peut pas conduire l’utilisateur à dénigrer, discriminer ou maltraiter l’autre personne en fonction de sa race, de sa religion ou de ses convictions.
Déficit éducatif
Martínez affirme que la situation pourrait s’améliorer avec une plus grande éducation de la part des centres et des réseaux eux-mêmes. « Ils terminent leurs études sans un minimum de valeurs constitutionnelles et démocratiques acquises. De plus, lorsque vous entrez sur un réseau social, vous n’avez pas non plus besoin de suivre de formation, puisque tout est conçu pour que vous puissiez l’accepter le plus rapidement possible », déplore-t-il. Même si des accords ont été promus entre l’Union européenne, le La Commission européenne et les principaux fournisseurs de médias sociaux ont encore un long chemin à parcourir pour établir une certaine forme de politique et ainsi prévenir et garantir les droits.
Pour cette raison, l’expert souligne qu ‘ »ils devraient se concentrer exclusivement sur la détection et la réaction aux contenus illégaux ou présumés illégaux ou susceptibles de causer un certain type de dommage ».
Abonnez-vous pour continuer la lecture