L’utilisation de l’intelligence artificielle (IA) pourrait alimenter le racisme dans les forces de police, craignent les experts de l’ONU. Dans la lutte contre la discrimination raciale, le comité responsable de l’ONU, le CERD, a récemment annoncé que ces technologies d’IA – comme les programmes de reconnaissance faciale – doivent respecter les droits de l’homme. Le comité exige une transparence totale sur la conception et l’utilisation de ces algorithmes de profilage.
Les technologies d’IA pourraient reproduire et amplifier les biais existants et exacerber le problème préexistant, rapporte JakartaPost.
Prédiction de crime
Plus important encore, le CERD met en garde contre l’utilisation des technologies d’IA pour prédire la criminalité. «Les données historiques sur les arrestations dans un quartier, par exemple, peuvent refléter des pratiques policières racistes», a déclaré Verene Shepherd, membre du CERD. Cela pourrait conduire à davantage d’arrestations dans la région touchée. Shepherd a dirigé l’élaboration des recommandations générales.
Les spécialistes des Nations Unies exigent non seulement la transparence des systèmes, mais aussi que les États examinent attentivement les conséquences possibles sur les droits de l’homme avant d’utiliser un logiciel de reconnaissance faciale.