Un cas dans lequel un bug logiciel a conduit à l’arrestation d’un innocent a provoqué une agitation dans les médias américains. Le New York Times écrit que c’est peut-être la première fois qu’une personne est reconnue coupable d’un logiciel de détection de la criminalité faciale pour un crime qu’il n’a pas commis. L’affaire devient encore plus explosive car la victime, Robert Williams, 42 ans, est un Afro-américain. En ces temps de déclarations internationales contre le racisme au cours du mouvement « Black Lives Matter », le problème des logiciels biaisés apparaît.
« Juste un homme noir »
En janvier, Williams a d’abord été appelé par la police locale pour se rendre au poste le plus proche et être arrêté. Il pensait que c’était une mauvaise blague. Une heure plus tard, la police l’a emmené dehors. Sa femme et ses deux filles (âgées de 2 et 5 ans) étaient des témoins oculaires. La police n’a pas dit à Williams pourquoi il avait été arrêté. Interrogée par sa femme, elle a entendu «Google it».
Au poste de police, dans une salle d’interrogatoire, Williams a été confronté à des images fixes de vidéos de caméra de surveillance d’un homme noir qui aurait volé cinq montres dans un magasin. « Quand j’ai vu la photo de l’homme, je n’ai vu qu’un homme noir. Je n’ai vu aucune ressemblance », explique Williams NPR. Il a confronté le policier qui l’a interrogé: « J’espère que vous ne pensez pas que tous les Noirs se ressemblent. »
Nouvelles règles
Après 30 heures d’emprisonnement, Williams a été libéré sous caution. Lors d’une audience, la police a reconnu l’erreur dans le logiciel de reconnaissance faciale qui avait identifié à tort Williams comme le voleur de montres. La police de Détroit peu de temps après l’affaire a publié de nouvelles règles qui permettraient d’analyser les futures photos, et non les photos de vidéos, par un logiciel de reconnaissance faciale.
Erreur systématique
Cependant, l’affaire est un scandale pour les militants des droits civiques. « Ils ne lui ont pas posé de questions avant son arrestation. Ils ne lui ont même pas demandé où il était ce jour-là », a déclaré l’avocat de l’ACLU, Phil Mayor. Il n’est pas surprenant pour les informaticiens que le logiciel de reconnaissance faciale crache le mauvais résultat, en particulier pour un Afro-américain.
« Cette méconnaissance démontre l’un des dangers de la technologie de reconnaissance faciale qui a été démontré dans de nombreuses études », a déclaré la chercheuse du MIT Joy Buolamwini, qui a fondé l’organisation Algorithmic Justice League. En particulier, les personnes à la peau foncée sont souvent insuffisamment reconnues par les logiciels de reconnaissance faciale.