Imaginez être banni d’un magasin pour un vol que vous n’avez jamais commis… C’est ce qui est arrivé à Danielle Horan, une Britannique de Manchester, expulsée à deux reprises d’une enseigne Home Bargains à cause d’un algorithme de reconnaissance faciale.

L’histoire, révélée par la BBC, interroge sur les dérives de l’intelligence artificielle dans l’espace public. Le système, fourni par la société Facewatch, a tout simplement accusé Mme Horan d’avoir volé… du papier toilette. Une erreur qui l’a automatiquement inscrite sur une liste noire numérique, sans vérification humaine. Lorsqu’elle s’est rendue dans un autre magasin de la même chaîne, les agents de sécurité l’ont immédiatement repérée via le système, encerclée, puis sommée de quitter les lieux. Aucun échange, aucun doute, aucun recours sur place.

Même après vérification de ses paiements, l’accusation a continué de la suivre. Il lui a fallu prouver sa bonne foi non seulement auprès de l’enseigne, mais aussi auprès de Facewatch. Une inversion totale de la logique judiciaire : ici, la machine vous désigne coupable, à vous de démontrer votre innocence. Le plus inquiétant ? Ce n’est pas un cas isolé. Big Brother Watch, organisation britannique de défense des libertés civiles, affirme avoir été contactée par plus de 35 personnes victimes de signalements erronés similaires.

Facewatch a reconnu l’erreur et suspendu temporairement ses services dans les magasins concernés. L’entreprise rappelle que la fiabilité de son IA dépend des informations initiales, mais cela ne suffit pas à calmer les inquiétudes. Car au-delà de la faille technique, c’est la place croissante de la reconnaissance faciale dans nos vies qui est en question. Déjà controversée lorsqu’elle est utilisée par les forces de l’ordre, cette technologie pose aujourd’hui un nouveau dilemme : peut-on confier notre présomption d’innocence à un algorithme ?

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.