Le Gouvernement vient de présenter l’outil HODIO (Footprint of Hate and Polarisation), destiné à mesurer la présence de discours de haine et de polarisation sur les réseaux sociaux. Le système analysera de grands volumes de contenu à l’aide de techniques d’analyse de données, d’intelligence artificielle et d’examens d’experts pour générer des indicateurs périodiques et comparer la manière dont différentes plateformes gèrent ce contenu. L’initiative repose sur l’hypothèse largement partagée selon laquelle les réseaux sociaux ont transformé le débat public, puisque leurs algorithmes, visant à maximiser l’interaction, ont tendance à privilégier les messages émotionnels et conflictuels par rapport aux messages rationnels, augmentant ainsi la visibilité des contenus polarisants.
Malgré la bonté de l’objectif, le projet est problématique pour plusieurs raisons. Tout d’abord, d’un point de vue conceptuel. Dans le système juridique espagnol, le crime de haine est déjà défini à l’article 510 du Code pénal et fait référence à l’incitation à la violence ou à la discrimination contre des groupes protégés. L’initiative du Gouvernement semble dépasser ce cadre. Si des concepts tels que la haine ou la polarisation ne sont pas clairement définis, il existe un risque que des opinions dures ou controversées soient incluses dans ces catégories. Deuxièmement, cela pose un problème institutionnel : si la définition des critères et l’élaboration des indicateurs dépendent de l’Exécutif lui-même, l’outil pourrait finir par devenir un mécanisme de pression politique sur les plateformes, et donc sur le débat public.
Ces tensions sont mieux comprises à la lumière de la théorie de la sphère publique de Jürgen Habermas, dont la mort récente nous invite à relire sa pensée. Pour le philosophe allemand, la légitimité démocratique repose sur l’existence d’un espace de délibération ouvert dans lequel les citoyens échangent des arguments dans des conditions de liberté et d’égalité. L’espace public doit conserver son autonomie par rapport aux institutions, précisément parce que sa fonction est de permettre la critique du pouvoir. Lorsque le gouvernement définit lui-même quels discours sont considérés comme problématiques, le risque apparaît que cette classification finisse par influencer les limites du débat légitime. Et, même si elle ne prend pas la forme d’une censure directe, elle peut opérer de manière plus indirecte, à travers des indicateurs ou des catégories officielles qui conditionnent la perception publique de certains discours. Si la frontière entre discours de haine et discours controversés s’estompe, certaines positions critiques pourraient finir par être délégitimées.
Pour Habermas, le consensus démocratique naît du processus délibératif entre citoyens libres et égaux. Pour cette raison, des initiatives comme HODIO, qui cherchent à corriger les problèmes du débat numérique à travers des mécanismes institutionnels de classification du discours, courent le risque de finir par affaiblir l’autonomie de la sphère publique dont dépend elle-même la délibération démocratique.