En juillet 2025, Angela Lipps garde les quatre enfants de sa voisine, dans le Tennessee. Des marshals fédéraux l'arrêtent chez elle, arme au poing. Elle a 50 ans, trois enfants, cinq petits-enfants. Elle n'a jamais mis les pieds dans le Dakota du Nord, où on l'accuse d'avoir fraudé une banque à Fargo.
Elle restera détenue près de six mois : presque quatre dans le Tennessee, sans caution, en attente de l'extradition, puis deux de plus à Fargo, où elle est inculpée de quatre chefs d'usurpation d'identité et de quatre chefs de vol. Les charges tombent quand son avocat produit des relevés bancaires prouvant qu'elle était dans le Tennessee au moment des faits. Elle est libérée la veille de Noël, sans moyen de rentrer chez elle. Entre-temps, selon sa plainte, elle a perdu son logement, sa voiture et ses affaires personnelles.
Ce qui l'a désignée ? Une photo publique issue de ses réseaux sociaux, renvoyée par un logiciel de reconnaissance faciale comme "piste potentielle". La plainte fédérale déposée en septembre 2026 contre la ville de Fargo et le détective Lucas Heck réclame 10 millions de dollars. Elle soutient que celui-ci a laissé entendre dans sa demande de mandat que la reconnaissance faciale avait identifié Lipps, sans pousser plus loin les vérifications. La ville ne commente pas les procédures en cours. À ce stade, ce sont des allégations, pas des conclusions judiciaires.
Mais, d'un dossier à l'autre, les documents judiciaires américains dessinent une mécanique qui se répète.
Un score de similitude n'est pas une identification
Un système de reconnaissance faciale interrogé à partir d'une image de vidéosurveillance ne dit pas "c'est lui". Il dit "voici les visages de la base qui ressemblent le plus à celui-là". Dans une recherche dite "un-vers-plusieurs" (1:N), la plupart de ces visages - souvent tous - ne sont pas la bonne personne : c'est le principe même de l'outil.
Patrick Grother, le chercheur du NIST qui pilote le programme d'évaluation de référence, le formule sans détour : une erreur en 1:N "place une correspondance incorrecte sur une liste de candidats qui méritent un examen plus approfondi". Le problème n'est donc pas la liste. C'est ce qu'on en fait.
Le dossier de Robert Dillon en donne la version la plus nette. Ce Floridien de 52 ans est arrêté à son domicile, devant sa femme, pour avoir tenté d'attirer une fillette dans un McDonald's de Jacksonville Beach - à plus de 300 miles, soit cinq heures de route, de chez lui. La police municipale indique que l'algorithme a renvoyé "93 % de probabilité". Ce chiffre circule ensuite comme s'il mesurait une culpabilité. Il ne mesure qu'une ressemblance entre deux images.
Le maillon qui lâche est humain
La plainte de l'ACLU, déposée en juin 2026, ne reproche pas au logiciel son erreur, mais aux enquêteurs d'avoir ignoré tous les éléments qui l'innocentaient. L'enquêteur principal, Scott O'Connell, aurait omis plusieurs éléments vérifiables : les lecteurs de plaques montraient qu'aucun véhicule de Dillon n'était passé près du restaurant ; la photo soumise à l'algorithme n'était pas l'enregistrement numérique, mais une capture d'écran de basse définition réalisée avec un téléphone ; et il n'aurait pas contesté la déclaration d'une employée affirmant que le suspect était un habitué venu plusieurs fois au cours des semaines précédentes - ce qui aurait été impossible pour un homme vivant à plus de 300 miles de là.
La plainte résume la mécanique ainsi : "Plutôt que de confronter la réponse de la machine aux éléments qui l'auraient innocenté, les agents ont construit un dossier pour la confirmer".
Dans un autre dossier, Jalil Richardson, de Charlotte, est extradé vers Jacksonville et passe près de trois mois en prison après avoir été identifié comme présent sur les lieux d'un vol de voiture. Ses pointages prouvaient qu'il travaillait à 400 miles de là. Kimberlee Williams, grand-mère de l'Oklahoma, a fait six mois de détention en 2021 pour des retraits frauduleux commis dans le Maryland, où elle n'avait jamais mis les pieds : un enquêteur bancaire avait diffusé l'image du suspect sur une liste de diffusion réservée aux policiers et enquêteurs privés, quelqu'un l'avait passée dans un logiciel, et un nom en était ressorti. Aucun détective n'a vérifié si elle pouvait se trouver dans le Maryland à ce moment-là - ses publications géolocalisées en Oklahoma auraient suffi.
Le point commun de ces affaires est d'une banalité consternante : la vérification la moins coûteuse, celle qui consiste à se demander si la personne pouvait être sur les lieux, n'a pas été faite. L'ACLU recensait en avril 2026 quatorze arrestations erronées documentées publiquement ; la plainte de Dillon parle d'au moins quinze. L'organisation est partie prenante à plusieurs de ces procédures, ce qui invite à lire son décompte avec recul - mais chaque cas renvoie à un document judiciaire public.
Ces erreurs ne tombent pas au hasard
En 2019, le NIST a évalué 189 algorithmes de 99 développeurs sur 18,27 millions d'images issues de bases officielles américaines. Conclusion principale : la majorité des algorithmes présentaient des écarts de performance selon le sexe, l'âge et l'origine. En recherche 1:N, les taux de faux positifs les plus élevés concernaient les femmes afro-américaines. L'ACLU note que la plupart des personnes arrêtées à tort recensées sont noires, et que plusieurs présentaient des différences physiques flagrantes avec le suspect - un homme couvert de tatouages, une femme enceinte de huit mois, un autre nettement plus grand et plus lourd.
Il faut cependant tenir le contre-argument, et il est sérieux : les algorithmes les plus performants du même programme affichent des écarts si faibles qu'ils sont qualifiés d'indétectables, et le NIST teste des algorithmes, pas les produits commerciaux déployés sur le terrain. Autrement dit, l'erreur n'est pas une fatalité technique : elle dépend de ce qu'on achète, de la qualité de l'image d'entrée et, surtout, du protocole humain qui entoure la machine.
C'est toute la différence entre un téléphone et un commissariat. Le déverrouillage facial fonctionne en "un-vers-un" : s'il échoue, on retape son code, l'erreur ne coûte rien.
Dans une enquête criminelle, le même type d'erreur peut envoyer quelqu'un en prison pendant six mois.
En France, le risque n'est pas le mandat d'arrêt : c'est l'absence de trace
Le débat français suit un autre chemin : le danger documenté n'y est pas, à ce jour, l'arrestation consécutive à un faux positif, mais l'usage non tracé.
Selon l'enquête de Disclose publiée le 16 mars 2026, les policiers et gendarmes disposent sur leurs téléphones professionnels "NEO" d'un logiciel de reconnaissance faciale capable, à partir d'une photo prise sur-le-champ, de lire une carte d'identité ou une plaque d'immatriculation et de renvoyer aussitôt des informations personnelles, en lien avec le traitement d'antécédents judiciaires (TAJ). Ce fichier contient jusqu'à 9 millions de portraits, les fiches de 17 millions de mis en cause et de 48 millions de victimes. La députée Élisa Martin (LFI) a interpellé le ministre de l'Intérieur sur le sujet : sa question écrite n° 14328, signalée au Gouvernement le 15 juin 2026, rappelle que l'article R. 40-28 du code de procédure pénale réserve la consultation du TAJ à des agents "individuellement désignés et spécialement habilités", dans le cadre d'enquêtes précises, et exclut toute consultation en temps réel lors d'un contrôle d'identité.
Or le rapport d'activité 2023 de l'IGPN indique, page 35, que le fichier est "fréquemment utilisé sur la voie publique lors de contrôles d'identité", et alerte sur le risque que les consultations injustifiées se multiplient avec l'accès direct offert par les appareils NEO. Les consultations du fichier sont passées de 375 000 en 2019 à un million en 2024. Disclose recueille aussi des témoignages : un manifestant identifié sous la contrainte à la sortie d'un rassemblement place de la République, un jeune homme photographié à Marseille sans que ses papiers lui soient demandés.
La différence avec les affaires américaines est décisive. Là-bas, un juge peut examiner une demande de mandat, un avocat peut produire des relevés bancaires, une plainte peut nommer un détective. Ici, un contrôle de deux minutes ne laisse aucune trace nominative, aucune décision motivée, aucun document à contester. La personne concernée n'apprend souvent pas qu'elle a été comparée à un fichier.
Le précédent Briefcam montre pourtant qu'une voie de contrôle existe : la révélation de son déploiement en 2023 avait déclenché une enquête administrative du ministère de l'Intérieur et l'arrêt du dispositif, et le tribunal administratif de Grenoble avait censuré la décision du maire de Moirans de recourir à ce logiciel, faute de garanties pour la vie privée. Dans le même temps, la vidéosurveillance algorithmique expérimentée depuis les Jeux de 2024 a été prolongée, puis étendue jusqu'à fin 2030 par la loi Ripost du 18 août 2026 - alors que le ministère de l'Intérieur affirme que ce dispositif interdit expressément la reconnaissance faciale et tout recoupement avec des fichiers. Ces deux constats peuvent coexister : la loi encadre l'expérimentation, et une pratique illégale se déploie, selon Disclose, sur le terrain, dans un angle mort.
Qui paie, au fond
Aux États-Unis, la facture atterrit d'abord sur les personnes : six mois de liberté en moins, un logement, une voiture, un emploi. Puis sur les budgets publics, puisque ce sont les villes qui sont assignées. Les 10 millions réclamés par Angela Lipps sont une demande, pas un montant accordé. Le système FACES utilisé contre Robert Dillon est exploité par le shérif du comté de Pinellas, qui le loue à d'autres services de police : une agence publique commercialise l'accès à un fichier de visages, ce qui dilue d'avance les responsabilités.
La voie judiciaire, elle, produit des résultats ambigus. La grande victoire contre Clearview AI - interdiction nationale de céder sa base à la plupart des acteurs privés et, pendant cinq ans, de vendre l'accès à toute entité de l'Illinois, police incluse - s'est soldée par un règlement valorisé autour de 51,75 millions de dollars, versé en actions de l'entreprise, les membres du recours collectif recevant 23 % du capital. Pas d'argent : des titres. Pour des personnes dont le visage a été aspiré sans consentement, la réparation prend la forme d'une participation dans la société qui a aspiré leurs visages.
En France, le coût est encore plus diffus : aucune sanction identifiée, aucune indemnisation, et une charge supportée par la personne contrôlée, qui n'a souvent même pas les moyens de savoir qu'elle l'a été.
Le vrai levier n'est pas là où le débat se porte. Il ne s'agit pas de savoir si la reconnaissance faciale "marche" - elle fonctionne souvent très bien, et c'est précisément ce qui la rend dangereuse quand on confond une piste avec une preuve. Il s'agit de savoir si un score de ressemblance peut, seul, priver quelqu'un de sa liberté ; si chaque requête est enregistrée et consultable ; et si l'agent qui décide de croire la machine doit rendre des comptes.
Une machine qui se trompe n'est pas un scandale. Une institution qui traite son hypothèse comme un verdict, en revanche, en est un.
