Principaux renseignements

• Selon son PDG Sam Altman, OpenAI ne peut pas contrôler l’utilisation de l’intelligence artificielle par le Pentagone dans le cadre d’opérations militaires.
• Le débat sur l’utilisation de l’IA par le gouvernement américain a débuté après la conclusion d’un accord entre OpenAI et le Pentagone.
• Le PDG d’OpenAI a lui-même admis lundi que son entreprise avait agi de manière précipitée en concluant cet accord.

OpenAI n’a aucun contrôle sur la manière dont le Pentagone utilise sa technologie dans le cadre d’opérations militaires. C’est ce qu’a déclaré le PDG Sam Altman mardi lors d’une réunion interne avec ses employés.

Selon Altman, la responsabilité des décisions opérationnelles incombe entièrement à l’armée elle-même. « Les employés d’OpenAI n’ont pas leur mot à dire sur les opérations militaires », a-t-il ajouté dans son discours, selon Bloomberg et CNBC.

Accord avec le Pentagone

Ces dernières semaines, de nombreuses discussions ont eu lieu au sein de l’industrie de l’IA. Elles ont fait suite à la demande du Pentagone aux entreprises d’IA de lever les mesures de sécurité pour leurs modèles. Cela permettrait d’utiliser ces modèles pour un plus large éventail d’applications militaires.

La discussion s’est enflammée après qu’OpenAI a conclu un accord avec le ministère américain de la Défense fin février. Le timing de cet accord a suscité une polémique supplémentaire. Peu avant, l’entreprise d’IA Anthropic avait refusé un contrat similaire avec le Pentagone. L’entreprise voulait des garanties que sa technologie ne serait pas utilisée pour la surveillance massive des citoyens ou pour des systèmes d’armes autonomes.

Altman

Le PDG d’OpenAI a lui-même admis lundi que son entreprise avait agi de manière précipitée en concluant cet accord. Selon lui, l’accord a été conclu trop rapidement, ce qui a donné à l’entreprise une image « opportuniste et négligente ».
Dario Amodei, le PDG d’Anthropic, s’en est pris violemment à Altman dans une note de service mercredi. Selon Amodei, Altman est « menteur » et « louerait Trump de manière dictatoriale », selon The Information.

« Nous avons respecté nos principes au lieu de collaborer avec eux pour mettre en scène un « théâtre de la sécurité » au profit des employés », aurait écrit Amodei.

Sam Altman a toutefois précisé dans son message sur X que le contrat avec le Pentagone comportait des restrictions. Ainsi, la technologie ne pourrait pas être utilisée pour la surveillance massive des citoyens américains ou pour des systèmes d’armes entièrement autonomes. Les critiques restent néanmoins sceptiques quant à l’applicabilité de ces règles.

Critiques

Au sein même d’OpenAI, l’accord avec le Pentagone fait l’objet de nombreuses critiques. Des centaines d’employés d’OpenAI et de Google ont signé une lettre ouverte dans laquelle ils mettent en garde contre la militarisation de l’IA. « Nous espérons que nos dirigeants mettront de côté leurs divergences d’opinion et continueront à refuser ensemble de céder aux exigences actuelles du Pentagone qui souhaite utiliser nos modèles pour la surveillance massive du territoire national et le meurtre autonome de personnes sans contrôle humain », ont écrit les employés. (ev)

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici!