Principaux renseignements
- Sarah Friar, directrice financière d’OpenAI, met en garde les entreprises contre l’utilisation d’une IA chinoise bon marché en raison des risques liés à la cybersécurité.
- Des retards stratégiques dans le déploiement empêchent les adversaires d’exploiter à mauvais escient des capacités dangereuses en matière d’IA.
- Les grandes puissances mondiales sont désormais engagées dans une course pour atteindre l’indépendance souveraine en matière d’IA, afin d’assurer une meilleure sécurité.
Sarah Friar, directrice financière d’OpenAI, a récemment mis en garde les entreprises contre l’utilisation de systèmes d’IA bon marché provenant de Chine, soulignant les risques considérables qu’ils présentent en matière de cybersécurité.
Lors du Sommet international sur l’IA à Dublin – un événement organisé dans le cadre de la présidence irlandaise du Conseil de l’UE –, Friar a exhorté les organisations à privilégier les modèles développés en Occident afin de mieux protéger leur infrastructure numérique.
Failles de sécurité antérieures
Cet avertissement intervient alors qu’une série de failles de sécurité impliquant la technologie d’OpenAI a été constatée. Plus tôt cette année, des outils de l’entreprise ont permis de s’introduire dans quatre organismes publics australiens, dont un service gérant les statistiques de Medicare, où des documents internes et des identifiants de connexion ont été volés. OpenAI a depuis présenté ses excuses pour ces violations.
Équilibre entre innovation et sécurité
Friar a également abordé la tension entre l’innovation rapide et la sécurité. Elle a affirmé que, si les entreprises américaines ne doivent certes pas rester inactives, elles doivent toutefois coordonner stratégiquement le calendrier de leurs lancements afin d’empêcher leurs adversaires d’obtenir un avantage décisif.
Elle a cité comme exemple le report du lancement du modèle Astra d’OpenAI. L’entreprise s’inquiète en effet des possibilités offertes par ce modèle de mener des cyberactivités malveillantes.
Débat sur l’open source
Un dirigeant d’Anthropic a également exprimé ce point de vue lors du même sommet. Selon le responsable des affaires internationales de l’entreprise, les modèles open source comportent, par définition, davantage de risques. Ce débat intervient alors que les modèles génératifs chinois dominent actuellement les chiffres de téléchargement sur Hugging Face. Ironie du sort, Hugging Face a lui-même été victime en juillet d’une violation impliquant des modèles d’OpenAI.
Au cours de l’enquête médico-légale qui a suivi, il est apparu que les outils commerciaux d’IA étaient incapables d’analyser le code malveillant, ce qui a contraint Hugging Face à recourir à GLM 5.2 – un modèle chinois à poids ouverts – pour identifier et bloquer plus de 17 000 actions non autorisées.
Croissance financière
Outre les questions de sécurité, Friar a fait le point sur la situation financière, indiquant que le chiffre d’affaires annuel d’OpenAI avoisinait les 50 milliards de dollars (44,5 milliards d’euros) au troisième trimestre, avec des prévisions qui devraient atteindre 70 milliards de dollars (62,4 milliards d’euros) d’ici la fin de l’année.
Interrogée sur la récente arrestation d’un employé qui avait installé un dispositif d’enregistrement dans les locaux de l’entreprise, elle a remercié le personnel de sécurité. Elle n’a toutefois pas donné plus de détails.
Vers une indépendance régionale
Ces discussions interviennent à un moment crucial pour le paysage mondial de l’IA. L’Union européenne aspire à une indépendance régionale dans le domaine de l’IA. Cette ambition se concrétise notamment par la publication prévue en octobre des poids du modèle Mistral, présenté comme l’alternative européenne souveraine aux technologies américaines et chinoises. (lv)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
