Google est-il vraiment intéressé par l’éthique des IA ? Une seconde chercheuse dans le domaine a pourtant été virée

Les bureaux de Google à Manhattan (Erik Pendzich/Shutterstock – Isopix)

Google a annoncé vendredi le licenciement de Margaret Mitchell, une chercheuse en éthique des intelligences artificielles. Si l’entreprise défend cette décision pour motif de faute grave, elle pose en vérité énormément de questions sur l’importance de ce domaine de recherche pour Google.

Margaret Mitchell est une brillante chercheuse dans le domaine de l’éthique des IA. Elle réfléchit par exemple à la possibilité qu’une intelligence artificielle puisse discriminer des populations. Mitchell travaillait pour Google depuis plus de 4 ans. Elle a annoncé son licenciement sur Twitter sans donner plus d’explication.

Google a expliqué que Mitchell avait été virée pour avoir sorti des fichiers de l’entreprise. Selon la firme, elle a donc enfreint le code de conduite et les politiques de sécurité. Mais cette décision passe mal dans le milieu, car il rappelle le départ – quelque peu forcé – de Timnit Gebru, également membre de l’équipe de recherche sur l’éthique des IA.

En décembre dernier, le Dr Gebru avait aussi quitté Google. Selon l’entreprise, il s’agit d’un départ volontaire. Selon la chercheuse, elle a été poussée à la porte. Elle explique que Google lui avait interdit de publier une recherche sur une possible discrimination de certaines IA sur des populations marginalisées. Et ces failles se retrouvaient notamment dans les produits de Google.

Google et l’éthique

Le départ du Dr Gebru avait provoqué un véritable grondement social au sein de l’entreprise. Des milliers d’employés ont manifesté contre son départ. Une lettre signée par de nombreux collègues de Timnit Gebru a même forcé le CEO de Google, Sundar Pichai, à présenter des excuses sur la manière dont l’entreprise avait traité son départ.

Aujourd’hui, le départ de Margaret Mitchell, qui a codirigé l’équipe de recherche pendant deux ans avec Gebru, ravivent les questions sur l’entreprise. Les deux chercheuses ont toujours défendu l’idée que les IA pouvaient se montrer racistes, xénophobes ou sexistes et qu’il fallait donc y porter une attention particulière.

Les scientifiques dans ce domaine se demandent donc maintenant si Google est réellement intéressé par les questions éthiques sur les intelligences artificielles. Ils craignent que le capitalisme soit plus fort que l’éthique. Pour eux, l’entreprise essaie de cacher les défauts de ses technologies pour ne pas perdre la confiance des utilisateurs.