L'Espagne ne plaisante plus avec la toxicité numérique. Ce mardi 11 mars 2026, le Premier ministre Pedro Sánchez a dévoilé une initiative qui fait trembler la Silicon Valley : HODIO, un système d'intelligence artificielle conçu pour mesurer en temps réel l'« empreinte de la haine » sur les réseaux sociaux. L'idée ? Transformer l'invisible en données chiffrées pour forcer les géants du web à assumer leurs responsabilités. Fini le temps où les plateformes pouvaient se cacher derrière leurs algorithmes pour justifier la multiplication des discours de haine, du racisme et de la xénophobie. Madrid lance un avertissement sans équivoque aux « technoligarques », et l'Europe entière retient son souffle.
Quand Pedro Sánchez compare la haine en ligne à l'empreinte carbone
L'annonce n'est pas tombée n'importe où. Elle a eu lieu lors du premier Forum contre la haine organisé à Madrid, un événement hautement médiatique qui a servi de tribune au président du gouvernement pour sonner la mobilisation générale. L'objectif affiché est clair : sortir la haine en ligne de la sphère de l'anecdote pour la traiter comme un problème de santé publique majeur, une pollution mentale qu'il faut désormais mesurer, quantifier et, in fine, éradiquer. Pedro Sánchez a utilisé une métaphore forte pour marquer les esprits, assimilant la propagation de la haine à la crise climatique. Tout comme nous avons appris à calculer notre empreinte carbone pour comprendre notre impact sur la planète, l'Espagne propose maintenant de calculer l'empreinte de la haine pour mesurer l'impact toxique sur la démocratie.
845 000 contenus toxiques : le bilan alarmant qui a précipité l'annonce
Si le gouvernement espagnol sort l'artillerie lourde avec HODIO, c'est parce que la situation est devenue intenable. Les chiffres dévoilés par l'exécutif donnent le vertige. En une seule décennie, les délits de haine en Espagne ont bondi de 41 %. C'est une explosion statistique qui reflète une réalité sociale de plus en plus violente, surtout pour les populations ciblées. Mais c'est le chiffre de 2025 qui a véritablement agi comme un électrochoc : l'Observatoire espagnol du racisme et de la xénophobie (OBERAXE) a identifié plus de 845 000 contenus haineux rien que sur les principales plateformes que nous utilisons tous les jours : Facebook, YouTube, Instagram, TikTok et X.
Pour la jeune génération, celle qui scrolle sans fin sur ses feeds, cette exposition n'est pas une théorie, c'est le quotidien. Une étude menée par Fad Juventud révèle que trois jeunes sur quatre sont régulièrement confrontés à des discours de haine sur internet. C'est un véritable fléau qui normalise l'insulte et l'intolérance. On est loin du simple « troll » de comptoir ; nous sommes face à une contamination massive de l'espace numérique public. La situation est devenue critique au point que les autorités ont dû réagir avant que la fracture sociale ne devienne irréparable. Le danger est d'autant plus insidieux que cette haine en ligne a des conséquences réelles, allant jusqu'à influencer le comportement des jeunes dans la rue et à l'école.
« De la liberté d'expression à la liberté d'agression » : le discours fondateur de Madrid
Lors de son discours au Forum, Pedro Sánchez n'a pas mâché ses mots. Il a pointé du doigt la dérive d'un internet qui, initialement conçu comme un espace de liberté, s'est transformé en un terrain de chasse pour les harceleurs. Sa phrase clé résonne comme un constat d'échec : nous sommes passés de la liberté d'expression à une « liberté d'agression », un espace où l'insulte se présente comme une opinion et le harcèlement comme un débat. C'est une mise au point sévère pour ceux qui utilisent l'argument de la liberté d'expression pour justifier l'injustifiable.
Le chef du gouvernement espagnol est allé encore plus loin en s'attaquant directement aux propriétaires de ces plateformes, les qualifiant de « technoligarques ». Il a dénoncé leur emprise quasi absolue sur l'espace public, les accusant de privilégier le profit au prix de la propagation de contenus haineux, car ceux-ci garantissent un engagement utilisateur élevé. En comparant la haine en ligne à l'empreinte carbone, il a averti que la pollution du discours démocratique constituait un danger tout aussi sérieux que la crise climatique. Estimant que l'autorégulation a échoué, il prône l'instauration de mesures réglementaires strictes. Le message est sans appel : rien ni personne, aussi puissant soit-il, n'est au-dessus ou en dehors de la loi.
HODIO sous le capot : comment une IA née dans les stades scrute vos stories
Passons maintenant aux choses sérieuses : comment fonctionne concrètement ce fameux HODIO ? Ce n'est pas de la science-fiction sortie d'un film de dystopie, mais bien une technologie basée sur des algorithmes existants, affinés pour devenir une machine de guerre contre le discours de haine. L'acronyme HODIO signifie « Huella del Odio y la Polarización » (Empreinte de la haine et de la polarisation). C'est un système hybride qui combine la puissance de l'intelligence artificielle pour traiter des masses de données gigantesques et la nuance indispensable de l'intelligence humaine pour valider les résultats. Le but n'est pas de censurer à l'aveugle, mais de fournir une photographie précise de l'état de la toxine numérique sur le territoire espagnol.
De MOOD à HODIO : l'ingénierie anti-haine héritée du football
Ce qui est fascinant avec HODIO, c'est son ADN. L'outil ne sort pas de nulle part ; il est le fruit d'une évolution technologique qui a commencé… dans les stades de football. En 2023, LaLiga, l'organisation chargée de gérer le football professionnel espagnol, a lancé MOOD (Monitor de Observación de Odio en el Deporte). L'objectif était alors de traquer le racisme et les insultes proférées par les supporters sur les réseaux sociaux à l'encontre des joueurs. Face à la réussite de ce dispositif, une version améliorée a été développée en 2024 : FARO (Filtrado y Análisis de Odio en las Redes Sociales).
HODIO est l'extension directe de ces outils. En quelque sorte, l'Espagne a utilisé le football comme un laboratoire grandeur nature pour tester sa technologie anti-haine. Si le système parvient à identifier les insultes racistes visant un joueur de Real Madrid ou du Barça dans un environnement à haute tension comme X (anciennement Twitter), il est tout à fait capable de le faire pour le reste de la population. C'est une approche pragmatique : on reprend une éprouvette qui a fonctionné dans un microcosme et on l'applique à la société entière. Le nouveau système utilisera la même technologie mais avec des fonctions d'IA encore plus poussées et une fréquence de rapports plus soutenue.
Mots-clés, algorithmes et « révision humaine » : les limites de la machine
Concrètement, comment l'IA s'y prend-elle pour nous « scanner » ? HODIO va analyser les fils d'actualité, les historiques et les stories sur Instagram, TikTok, X, YouTube et Facebook. Il scanne ces données en recherchant des mots-clés spécifiques et des patterns de langage associés au racisme, à la xénophobie, à l'islamophobie, à l'antisémitisme ou à l'antitsiganisme. L'algorithme repère les contenus potentiellement problématiques à une vitesse qu'aucun humain ne pourrait égaler.
Cependant, le système a une ligne rouge de sécurité qu'il est crucial de comprendre : HODIO ne peut pas identifier une personne spécifique. L'outil ne trace pas un utilisateur individuel pour savoir s'il a posté un commentaire haineux hier soir. Il mesure un volume, une tendance, une ambiance. Pour éviter les erreurs grossières que seul un algorithme pourrait commettre, une « révision humaine » est intégrée au processus. Des experts vérifient et valident les classifications de l'IA pour garantir la précision. C'est ce mélange de calcul algorithmique et de jugement humain qui est censé donner à HODIO sa légitimité et sa robustesse.
X, TikTok, Instagram : le classement choc qui nommera les mauvais élèves
L'innovation de HODIO ne réside pas seulement dans la détection, mais surtout dans la publicité des résultats. Le gouvernement espagnol ne compte pas garder ces données pour lui. Au contraire, l'objectif est de créer une pression médiatique et citoyenne énorme en publiant un rapport semestriel. Ce rapport contiendra un classement des plateformes selon leur niveau de toxicité. Imaginez le classement des meilleurs lycées ou des meilleures entreprises, mais appliqué aux réseaux sociaux selon leur capacité à laisser proliférer la haine. C'est un levier de redoutable efficacité.
Elon Musk dans le viseur : quand les discours haineux explosent de 50 % sur X
Dans cette guerre des chiffres, il y a déjà un mauvais élève désigné d'office : X. Pedro Sánchez a été particulièrement virulent à l'égard d'Elon Musk, l'accusant d'avoir permis une hausse de 50 % des discours de haine depuis sa prise de contrôle de la plateforme. Les chiffres de l'OBERAXE pour l'année 2024 donnent raison à cette accusation. X est de loin la plateforme la plus laxiste : sur les contenus haineux notifiés aux modérateurs, seuls 14 % sont effectivement retirés.
À titre de comparaison, TikTok en retire 31 % et Instagram 51 %. Ce contraste saisissant montre qu'il est techniquement possible de mieux modérer, mais que la volonté politique ou commerciale manque chez certains. En pointant du doigt X et son propriétaire avec une telle fermeté, l'Espagne espère forcer la main à l'un des hommes les plus puissants de la planète. Le message est simple : on ne peut plus continuer à faire du business sur le dos de la haine sans conséquence. C'est une attaque frontale contre le modèle de liberté absolue prôné par Musk, et un test grandeur nature pour la capacité des États à faire plier les géants de la Tech.
Le « name and shame » semestriel : un levier de pression plus fort qu'une amende ?
La stratégie espagnole relève du « name and shame » (nommer pour blâmer). En rendant ces chiffres publics deux fois par an, le gouvernement espagnol espère créer un levier de réputation et économique bien plus redoutable que les amendes traditionnelles. Pour des mastodontes comme Meta ou X, une pénalité financière de quelques millions d'euros est souvent considérée comme un coût opérationnel mineur, une simple dépense de « business ». En revanche, une réputation de plateforme toxique qui repousse les annonceurs et les utilisateurs peut coûter des milliards.
L'idée est de responsabiliser les utilisateurs. Si demain, vous apprenez qu'une plateforme est le repaire principal de la haine en ligne, vous serez peut-être tenté de la désinstaller ou, à tout le moins, de l'utiliser avec plus de prudence. C'est cette peur de voir la base d'utilisables s'éroder qui pourrait enfin forcer les « technoligarques » à investir massivement dans la modération. Le pari de Pedro Sánchez est que la réputation est le talon d'Achille de ces géants de la tech, et qu'il est temps de le frapper.
Protection des jeunes ou « Comité de salut public » : la fine ligne de la censure
Une telle entreprise de surveillance massive ne peut pas se faire sans susciter des craintes, légitimes, sur les libertés fondamentales. L'Espagne est un pays marqué par son histoire, et la mise en place d'un outil étatique chargé de mesurer l'opinion, même toxique, réveille de vieux démons. Si l'objectif affiché est la protection des jeunes et des minorités, beaucoup s'inquiètent de voir l'État s'arroger le droit de définir ce qui est dicible et ce qui ne l'est pas. La frontière entre la haine avérée et la critique politique, l'humour ou la simple polémique, est parfois mince.
« Jodío » et Comité de salut public : la levée de boucliers de l'opposition
Les réactions politiques n'ont pas tardé à pleuvoir, et elles sont d'une violence rare. L'opposition de droite et d'extrême droite crie à la censure d'État. Isabel Díaz Ayuso, la présidente de la Communauté de Madrid et figure de proue du Parti Populaire, a moqué l'outil au Parlement avec une ironie cinglante. Selon elle, le véritable nom de l'outil n'est pas HODIO mais « Jodío » (une insulte espagnole signifiant « maudit »), affirmant que le projet est une tentative grossière de berner des citoyens « moyennement informés ».
De son côté, Santiago Abascal, le leader de Vox, a qualifié HODIO d'élément supplémentaire de censure destiné à « effrayer le citoyen » pour qu'il n'ose plus exprimer son mécontentement vis-à-vis du gouvernement. La presse conservatrice, comme le journal ABC, a poussé la comparaison plus loin en décrivant l'initiative comme « la version postmoderne (et sans guillotine) du Comité de salut public ». Cette référence à la Terreur de la Révolution française montre à quel point le projet est perçu comme une menace existentielle par les adversaires de Sánchez, qui y voient un outil de contrôle idéologique déguisé en bienveillance sociale.
Quand la détection de l'antisémitisme et du racisme vise aussi les extrêmes
Pourtant, il faut noter que les critères définis par HODIO sont précis et encadrés par la légalité espagnole. L'outil traque spécifiquement les contenus à motivation raciste, xénophobe, islamophobe, antisémite et antitsigane qui peuvent constituer un délit ou une infraction administrative. L'idée n'est pas de censurer la critique politique, mais de repérer les appels à la haine et à la violence.
Néanmoins, la question de l'interprétation reste entière. Un dessin satirique, une critique acerbe d'une religion ou une prise de position radicale sur l'immigration peuvent-ils être classés comme « discours de haine » par un algorithme ? C'est tout l'enjeu de la révision humaine promise par le gouvernement. Mais si les critères académiques sont ceux utilisés pour lutter contre les extrêmes, il est à craindre que la ligne rouge ne bouge au gré du climat politique. Le risque existe que cet outil serve à museler une opposition de plus en plus virulente, en utilisant la lutte contre le racisme comme un paravent moral pour justifier une surveillance accrue.
La France va-t-elle importer ce radar de la haine numérique ?
Pour nous, observateurs en France, l'expérience espagnole est bien plus qu'une anecdote lointaine. Elle constitue un banc d'essai fascinant pour ce qui pourrait devenir le modèle européen de régulation. L'Union européenne est déjà en train de durcir considérablement ses règles avec le Digital Services Act (DSA), mais l'Espagne va beaucoup plus loin en créant un outil technique de surveillance directe. Si HODIO s'avère efficace pour faire diminuer la haine en ligne sans provoquer de crise démocratique majeure, la pression sera immense pour que d'autres pays, dont la France, emboîtent le pas.
Interdiction aux moins de 16 ans et traçage : le modèle européen en construction
Il ne faut pas voir HODIO isolément. Cette initiative s'inscrit dans une vague de fond ultra-réglementariste venue d'Espagne. Rappelons que c'est aussi Madrid qui a annoncé, en février 2026, l'interdiction des réseaux sociaux pour les moins de 16 ans. Le pays dessine ainsi les contours d'une politique numérique très coercitive, qui vise à protéger la jeunesse par la restriction drastique de l'accès plutôt que par la seule éducation.
Cette approche combine l'interdiction (la barrière d'âge) et la surveillance (HODIO). C'est un modèle de sécurité maximale qui pourrait faire des émules en Europe, alors que la question de l'impact des écrans sur la santé mentale des jeunes est devenue une préoccupation centrale pour tous les gouvernements. La France, qui hésite encore sur l'âge du premier téléphone portable ou l'interdiction de TikTok, voit avec attention l'audace ibérique.
CNIL et DILCRAH : comment la France observe l'expérience Sánchez
En France, les autorités sont aux aguets. Le DILCRAH (Délégation interministérielle à la lutte contre le racisme, l'antisémitisme et la haine anti-LGBT) et la CNIL (Commission nationale de l'informatique et des libertés) observent de près les développements madrilènes. La France dispose déjà de l'obligation de retrait des contenus illicites sous 24 heures, mais nous manquons d'un outil de métrique globale comme HODIO.
Si l'expérience espagnole réussit à forcer la main aux plateformes sans être censurée par la justice européenne pour atteinte aux libertés, on peut parier que la France sera tentée de développer son propre clone de HODIO. L'argument de la « souveraineté numérique » et de la protection des mineurs est puissant. L'air du temps est à la traçabilité et à la responsabilité accrue, et l'Espagne est aujourd'hui le laboratoire de cette nouvelle ère.
Conclusion : L'ère des « technoligarques » touche-t-elle à sa fin en Europe ?
Avec le lancement d'HODIO, l'Espagne vient de marquer un point décisif dans la bataille qui oppose les États démocratiques aux géants de la tech. En transformant le flou artistique de la haine en ligne en données objectives et publiques, Pedro Sánchez espère briser l'impunité dont jouissent les plateformes depuis trop longtemps. C'est une réponse audacieuse à l'augmentation alarmante des délits de haine et à la souffrance des victimes, notamment les jeunes, exposés à un torrent de violence numérique quotidien.
Cependant, cette innovation ne va pas sans risques. La ligne entre la protection nécessaire contre la haine et la tentation de la censure d'État est ténue. Les critiques de l'opposition espagnole, bien que politiquement motivées, rappellent qu'il est crucial de maintenir une vigilance absolue sur l'usage qui sera fait de ces outils de surveillance. La lutte contre le racisme et l'antisémitisme ne doit pas devenir le cheval de Troie d'une limitation de nos libertés fondamentales.
L'expérience HODIO sera donc cruciale à observer dans les mois à venir. Si elle prouve son efficacité, elle pourrait bien devenir le standard de l'Europe contre la haine en ligne. Mais la question ultime restera celle de la responsabilité collective. Les algorithmes peuvent scanner et les lois peuvent punir, mais c'est notre comportement en ligne, en tant qu'utilisateurs, qui déterminera finalement si internet redevient un espace de débat ou reste une poubelle toxique. Le temps des « technoligarques » sans contrôle touche peut-être à sa fin, mais celui de notre propre responsabilité ne fait que commencer.
