Intelligence artificielle sous l'apparence d'une adolescente de 14 ans piégeant un suspect de pédocriminalité lors d'une conversation en ligne.
Actualités

Justice vigilante en ligne : des streamers utilisent l'IA pour piéger des présumés prédateurs

Des streamers français utilisent l'intelligence artificielle pour se faire passer pour une adolescente et traquer des adultes suspects en ligne, diffusant les échanges en direct.

As-tu aimé cet article ?

Des streamers français utilisent l'intelligence artificielle pour se faire passer pour une adolescente et traquer des adultes suspects.

Intelligence artificielle sous l'apparence d'une adolescente de 14 ans piégeant un suspect de pédocriminalité lors d'une conversation en ligne.
Intelligence artificielle sous l'apparence d'une adolescente de 14 ans piégeant un suspect de pédocriminalité lors d'une conversation en ligne. - (source)

Un piège sophistiqué, diffusé en direct

Finnyzyy est l'un de ces streamers. Sa méthode repose sur des outils d'intelligence artificielle capables de modifier en temps réel son apparence et de transformer sa voix. Lors d'appels vidéo sur Snapchat, l'objectif est d'apparaître comme une adolescente de 14 ans. Les échanges sont ensuite diffusés en direct devant des milliers de spectateurs sur TikTok, Twitch ou YouTube.

Le streameur Finnyzyy.
Le streameur Finnyzyy. - (source)

Selon lui, une fois un faux profil créé, "il faut en moyenne 10 secondes pour qu'un prédateur vienne me contacter". Cette rapidité traduit, du moins dans son expérience, la facilité avec laquelle des adultes peuvent rechercher activement le contact avec de jeunes mineurs.

Comme lui, une nouvelle génération de streamers s'est spécialisée dans la traque de présumés prédateurs sexuels sur Internet. Ils ne sont ni policiers ni magistrats, mais leurs vidéos cumulent des centaines de milliers de vues.

Un phénomène en pleine expansion

Ce qui était encore marginal il y a quelques années prend aujourd'hui une ampleur significative sur les réseaux sociaux français. La méfiance envers des institutions judiciaires perçues comme lentes nourrit, pour certains, le recours à ces formes de justice spontanée.

Certains internautes voient en ces streamers des lanceurs d'alerte, tandis que d'autres dénoncent une justice parallèle aux frontières de la légalité.

Des risques judiciaires et éthiques

Ces opérations, qui suscitent un large écho en ligne, peuvent avoir des conséquences sur le plan judiciaire. Me Jean Sannier, avocat de l'association Innocence en danger, alerte : ces interventions peuvent parfois nuire aux enquêtes menées par les autorités.

Un enquêteur, un juge, un exécuteur

Le streamer cumule ici des rôles qu'on attend normalement séparés. À la fois enquêteur, juge et exécuteur, il assume la punition non pas sous la forme d'une peine prononcée par un tribunal, mais d'une exposition publique - un nom, un visage, diffusés à des milliers de personnes.

Un expert juridique interrogé par RFI observe que ces streamers "agissent au nom d'une communauté, d'un groupe de victimes collectives dont ils vont se saisir pour se légitimer". Le spectateur devient alors le jury, la communauté formant à la fois public et tribunal.

Au-delà du spectacle, des questions en suspens

La popularité de ces vidéos tient en partie à leur effet de spectacle : le suspect est démasqué en direct, sous les yeux de milliers de spectateurs. Mais cette efficacité médiatique ne garantit pas une efficacité judiciaire.

Nul n'est coupable avant qu'un tribunal ne le déclare, et toute personne filmée et exposée publiquement bénéficie de la présomption d'innocence. Plus largement, ces pratiques posent des questions sur la régulation des outils d'IA accessibles au grand public et sur la capacité des plateformes à modérer des contenus qui, s'ils visent des présumés prédateurs, reposent sur des méthodes hors cadre judiciaire.

As-tu aimé cet article ?

Questions fréquentes

Comment les streamers piègent-ils des présumés prédateurs ?

Ils utilisent l'IA pour modifier leur apparence en temps réel et transformer leur voix, apparaissant comme une adolescente de 14 ans lors d'appels vidéo sur Snapchat. Les échanges sont diffusés en direct sur TikTok, Twitch ou YouTube.

Sur quelles plateformes ces live de traque sont-ils diffusés ?

Sur TikTok, Twitch et YouTube, devant des milliers de spectateurs.

Quels risques judiciaires les avocats identifient-ils ?

Me Jean Sannier, avocat d'Innocence en danger, alerte que ces interventions peuvent nuire aux enquêtes menées par les autorités, et les streamers agissent hors cadre judiciaire sans respecter la présomption d'innocence.

En combien de temps un prédateur contacte-t-il le faux profil selon Finnyzyy ?

En moyenne 10 secondes après la création du faux profil.

Pourquoi le public est-il attiré par ces vidéos ?

Elles offrent un effet de spectacle : le suspect est démasqué en direct sous les yeux de milliers de spectateurs, cumulant des centaines de milliers de vues.

Sources

  1. Actualité: Harcèlement moral : éléments constitutifs du délit · actu.dalloz-etudiant.fr
  2. In Small Towns Across France, Victims Face an Uphill Battle for ... · algorithmwatch.org
  3. Harcèlement moral : définition, preuves et accompagnement · cabinetaci.com
  4. Le harcèlement moral | CFDT · cfdt.fr
  5. Creating, altering and distributing AI-generated child sexual abuse ... · coe.int
geo-decoder
Théo Aubot @geo-decoder

Passionné de géopolitique depuis le lycée, je dévore les cartes, les atlas et les analyses internationales. Étudiant en relations internationales à Lyon, je rêve de comprendre pourquoi le monde tourne comme il tourne. Je collectionne les vieux numéros de revues géopolitiques.

122 articles 0 abonnés

Commentaires (0)

Connexion pour laisser un commentaire.

Chargement des commentaires...

Articles similaires