Principaux renseignements

• D’anciens chercheurs affirment qu’OpenAI les a licenciés pour avoir donné la priorité à la sécurité de l’IA plutôt qu’au profit.
• La direction de l’entreprise attribue ces licenciements à des violations des protocoles relatifs aux données.
• Ces différends mettent en évidence une tension croissante entre les objectifs de l’entreprise et le respect des principes éthiques en matière d’IA.

Plusieurs anciens chercheurs d’OpenAI ont affirmé que leur licenciement résultait du fait qu’ils avaient privilégié la sécurité de l’IA par rapport aux objectifs commerciaux immédiats de l’entreprise. Alors que l’organisation soutient que ces collaborateurs ont été licenciés pour avoir enfreint les protocoles relatifs au traitement des données privées, les anciens employés affirment que leur départ constituait une mesure de représailles.

Allégations « d’une culture de la peur »

Dans une lettre ouverte rédigée par Jasmine Wang, Mikita Balesni et Tomek Korbak, le groupe affirme que leurs départs ont instauré une culture de la peur. Ils suggèrent que le personnel actuel pourrait désormais être intimidé au point de se taire, étouffant ainsi le dialogue ouvert qui était autrefois au cœur des activités de l’entreprise.

Plus précisément, Tomek Korbak a affirmé avoir passé des mois à alerter la direction sur la capacité décroissante à suivre les « processus de réflexion » internes des agents IA, ce qui est crucial pour détecter les dysfonctionnements.

Réponse d’OpenAI

OpenAI a fermement nié ces accusations. Dans des déclarations fournies à la BBC et dans une note interne des responsables de la recherche, l’entreprise a insisté sur le fait que les licenciements étaient motivés par un manquement grave à la confiance et une mauvaise gestion de données sensibles, plutôt que par le plaidoyer des chercheurs en faveur de la sécurité.

L’organisation a souligné que son enquête avait validé la décision de mettre fin à leur contrat de travail.

Débat plus large sur la sécurité de l’IA

Ce différend s’inscrit dans un contexte plus large d’inquiétude sociétale concernant les dangers d’une IA sophistiquée. L’alignement, processus visant à garantir que l’IA respecte l’éthique et les valeurs humaines, reste un sujet controversé.

Alors que les anciens employés préviennent que ce schéma de licenciement pourrait se poursuivre, OpenAI a indiqué qu’elle était en train de conclure des accords avec des auditeurs de sécurité externes et qu’elle fournirait davantage d’informations prochainement.

(at)

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici !