Google Photos qui confond une jeune femme noire avec un gorille. Le site de partage de photo Flickr qui ajoute les tags “animal” et “singe” sur un homme noir. Un appareil Nikon, détectant les clignements des yeux, qui prend des yeux bridés pour des yeux fermés. La liste d’erreurs absurdes de reconnaissance faciale est longue. Il ne s’agit […]
Google Photos qui confond une jeune femme noire avec un gorille. Le site de partage de photo Flickr qui ajoute les tags « animal » et « singe » sur un homme noir. Un appareil Nikon, détectant les clignements des yeux, qui prend des yeux bridés pour des yeux fermés. La liste d’erreurs absurdes de reconnaissance faciale est longue. Il ne s’agit pas seulement de simples bourdes technologiques, mais d’un vrai problème de discrimination selon Motherboard, la plateforme de Vice dédiée à la technologie. D’autant plus que ce type de technologie devient omniprésente.
{"type":"Pave-Haut2-Desktop"}
Les fabricants expliquent que ces logiciels se basent sur des « algorithmes standard » selon le magazine Time. Derrière les algorithmes, il y a des scientifiques. C’est bien eux qui ont définit le visage blanc par défaut, « par inconscience ou négligence, explique Motherboard. « Les algorithmes sont criblés de biais structurels. » En d’autres termes, les technologies ont été conçues à l’image de la discrimination ambiante de la société.
Le problème majeur n’est pas technique. C’est que peu de personnes sont à la fois conscientes de ce préjugé et capables de concevoir ces technologies. Les scientifiques derrière ces algorithmes se ressemblent, il y a peu de diversité. Ils ne se sentent donc pas particulièrement concernés par ces questions au point de les intégrer à leur programmation ou de faire de multiples vérifications avant de mettre les logiciels sur le marché.
« Cette technologie n’a pas été conçue pour vous »
Ces technologies et leur confusion ont pourtant des effets hautement symboliques. Un professeur d’informatique américain interrogé par Motherboard s’inquiète : « Personne ne prend le temps de réfléchir aux concepts de privilège et de statut; si vous correspondez au prototype de l’individu par défaut, vous vous contentez de vivre votre vie. »
« Les erreurs des systèmes de reconnaissance faciale ne sont que l’une des innombrables humiliations que vivent chaque jour les personnes non blanches au contact de la technologie. Elles doivent se confronter à ce rappel constant: telle technologie, tel système, n’a pas été conçu pour vous. Les gens qui l’ont mis au point ont oublié votre existence. »
La prise en compte de la diversité est nécessaire. Plus la technologie sera présente, plus la discrimination sera visible.
{"type":"Banniere-Basse"}