Un système automatisé a été mis en place pour analyser les photos destinées à figurer sur un passeport. Le logiciel rencontrerait un taux d’échec important au sein de la population noire.
Depuis 2016, les citoyens britanniques ont la possibilité de faire ou refaire un passeport en ligne, en fournissant leurs propres photos d'identité. Afin que ces dernières soient conformes aux standards légaux, les autorités ont mis en place un système de reconnaissance d’image, chargé de détecter d’éventuels éléments pouvant mener à un refus du cliché au cours de la procédure. Mais d’après la revue New Scientist, la population blanche profiterait d’un système bien plus adapté que les Noirs. En cause, des algorithmes de reconnaissance faciale inadaptés à certaines couleurs de peau.
Pour étudier la conformité d’un cliché, les algorithmes détectent - entre autres - le fait d’ouvrir les yeux ou de fermer la bouche. Deux éléments qui provoqueraient davantage d’échecs au sein de la population noire. Ces erreurs auraient pour conséquence de rallonger le délai moyen d’obtention d’un passeport pour les individus ayant la peau foncée.
Une faille connue des autorités
Interrogé par la revue scientifique, un expert noir en technologies de l’université de Keele affirme que le logiciel a estimé à tort que ses yeux étaient fermés et que sa bouche était ouverte. “Ce qui est démoralisant, c’est de savoir qu’ils étaient au courant” explique Cat Hallam, faisant référence à un document publié ces derniers jours par le Bureau de l'Intérieur britannique en réponse à une demande de MedConfidential, une entreprise spécialisée dans la protection des données personnelles.
“Des recherches ont été menées auprès d’un large panel de groupes ethniques. Elles ont établi que des individus ayant des peaux très pâles ou très foncées ont rencontré des difficultés à fournir une photo de passeport reconnue comme valide. Toutefois, la performance globale du système a été jugée suffisamment bonne pour valider son déploiement” explique le document du département du gouvernement britannique, sans toutefois fournir de chiffres permettant de comparer les taux d’échec liés aux peaux blanches et aux peaux noires.
Interrogée par la BBC, l’institution confirme que sa principale préoccupation est de rendre la procédure la plus simple possible. Elle annonce par ailleurs que ses équipes tenteront d’améliorer le système. “La couleur de peau ne devrait pas constituer une barrière pour l’utilisation des services publics indispensables” regrette un porte-parole de la Commission pour l'égalité et les droits de l'homme, un organisme public britannique créé en 2006. De son côté, la revue New Scientist n’évoque pas de cas d’internautes à la peau blanche ayant rencontré de telles difficultés.
NYC
Les biais liés à la couleur de peau sont régulièrement évoqués concernant les technologies de reconnaissance faciale. En 2015, les algorithmes de Google avaient fait polémique après avoir identifié des personnes noires en tant que singes. La firme avait à l’époque expliqué que des personnes blanches pouvaient également être associées par erreur à des animaux. En juillet 2019, des chercheurs de l'Université d'Essex ont estimé que les algorithmes utilisés par la police londonienne pour identifier des suspects font erreur dans 81% des cas.