Des photos qui ignorent un visage noir pour se focaliser sur une personne blanche au troisième plan, des images de femmes centrées sur leur poitrine… Les algorithmes sont parfois aussi consternants que les humains. Twitter veut s’attaquer au problème en lançant un grand concours de hacking.
C’est un problème récurrent sur les réseau sociaux : les algorithmes de reconnaissance faciale, capables normalement d’identifier une personne sur une photo et de la centrer sur son visage, s’avèrent souvent capables de problèmes de profilage. En fait, bien involontairement, ces programmes agissent d’une manière qu’on pourrait difficilement qualifier autrement que de raciste : elles s’avèrent incapables de traiter à égalité les personnes noires. Et le recours au télétravail durant la pandémie a mis en évidence le problème. Comme sur l’application de vidéoconférence Zoom, qui efface purement et simplement le visage d’un homme noir dès qu’il utilise un arrière-plan virtuel.
Twitter n’est pas épargné par ce genre de très gênant mauvais ajustement automatique. L’année passée, une étude a démontré que l’algorithme chargé de recadrer les images sur le site les centrait plus vers le visage d’un homme blanc que sur celui d’un homme noir. Et c’est pire encore quand la photo représentait une femme: le robot cernait bien souvent la poitrine ou les jambes plutôt que le visage comme centre d’attention.
La firme à l’oiseau bleu a décidé de s’attaquer à ce problème en offrant une bourse à qui résoudra ce problème. Ce défi s’organise dans le cadre de l’une des plus grandes conventions mondiales de hackers, le DEF CON AI Village, un événement qui se tient annuellement à Las Vegas.
Concrètement, l’équipe qui pourra présenter une manière fiable de corriger les biais racistes et sexistes de l’algorithme sera invité à la présenter lors de l’événement, et pourra toucher une récompense de 3.500 dollars. Une méthode de travail devenue très populaire dans les milieux de la haute technologie, nommée « bug bounty« . Littéralement, une prime offerte au meilleur des « chasseurs de bugs », comme au Far West on rémunérait les chasseurs de primes.
Twitter a déjà annoncé que son jury privilégierait « Des solutions efficaces qui prennent en compte tant des méthodes quantitatives que qualitatives dans leur approche. » Car sur le terrain du « machine learning » il est très difficile de convaincre un robot de faire machine arrière quand il s’est obstiné dans une mauvaise direction.
Pour aller plus loin :
