La ministre de la Jeunesse et de l’Enfance, Sira Rego, a envoyé une lettre au bureau du procureur général de l’État pour lui demander d’enquêter si Grok, l’intelligence artificielle (IA) de X (anciennement Twitter), pourrait commettre des délits de diffusion de matériel de violence sexuelle contre des enfants.
Selon des sources du département Rego ce mercredi, rapportées par différents médias, Grok aurait généré, à la demande des utilisateurs, du matériel de violence sexuelle contre des mineurs, « une pratique qui ne peut être comprise comme une utilisation neutre de la technologie et qui pourrait constituer un délit de pédopornographie », inclus dans l’article 189 du Code pénal (CP), ainsi qu’un délit contre l’intégrité morale (article 173 du CP).
Pour le Gouvernement, il s’agit de pratiques qui portent gravement atteinte à la dignité, à la vie privée et aux droits fondamentaux des enfants et adolescents dans l’environnement numérique.
Dans sa lettre, la responsable de la Jeunesse et de l’Enfance fait référence au jugement du Tribunal pour mineurs de Badajoz 86/2024, du 20 juin, dans lequel plusieurs personnes ont été condamnées pour utilisation de l’intelligence artificielle pour manipuler des images de filles et d’adolescentes.
Cette résolution reconnaît ces pratiques comme une forme de violence numérique, qualifiée de délit de pédopornographie et contre l’intégrité morale, affirme le responsable de la Jeunesse et de l’Enfance dans le document transmis au Parquet.
« Nous sommes confrontés à une violation des droits fondamentaux », affirme Rego, qui souligne qu' »il est essentiel que le Parquet analyse ces événements très graves et promeuve les actions nécessaires pour garantir la protection des enfants également sur Internet » et mettre un terme aux pratiques qui menacent leur dignité et leur développement libre et sûr dans l’espace numérique.
Actuellement, le Congrès est en train d’élaborer une loi organique pour la protection des mineurs dans les environnements numériques, promue par le ministère de la Jeunesse et de l’Enfance en collaboration avec d’autres ministères.
La loi renforce le cadre de protection de l’intégrité personnelle et de la vie privée contre les nouvelles formes de violations liées à l’utilisation de technologies telles que l’intelligence artificielle, réaffirmant que l’intérêt supérieur du mineur doit toujours prévaloir sur tout modèle économique numérique.
Jeunesse et Enfants défend la nécessité de construire des environnements numériques sûrs, car Internet et les plateformes n’ont pas été conçus pour les enfants et ne garantissent pas toujours un environnement pour les enfants et les adolescents sans violence et sans commercialisation de leur image.