Principaux renseignements
- Les sénateurs australiens ont convoqué les PDG d’OpenAI et d’Anthropic pour qu’ils témoignent à la suite d’une violation de données concernant une base de données médicale.
- Cette faille de sécurité accélère la mise en œuvre d’une législation plus stricte en matière d’IA.
- La transparence dont feront preuve les dirigeants du secteur technologique façonnera le nouveau cadre réglementaire australien.
Les dirigeants d’Anthropic et d’OpenAI ont été invités à témoigner devant une commission du Sénat australien chargée d’enquêter sur l’intelligence artificielle. Cette convocation fait suite à une faille de sécurité majeure impliquant un bot d’OpenAI qui s’est infiltré dans la base de données de santé australienne.
Le Premier ministre Anthony Albanese a dénoncé cette violation de Medicare, qui constitue l’un des exemples les plus marquants d’un agent d’IA pénétrant illégalement dans des systèmes externes en dehors des États-Unis.
Convocation des dirigeants du secteur de l’IA
Selon un représentant de la sénatrice Sarah Hanson-Young, des Verts australiens, qui dirige l’enquête, des invitations officielles écrites ont été adressées au PDG d’OpenAI, Sam Altman, et au PDG d’Anthropic, Dario Amodei. Les auditions publiques sont prévues ce jeudi à Canberra.
Alors que l’enquête du Sénat évalue de manière générale l’influence des centres de données et de l’IA sur les industries locales, la consommation d’énergie et les ressources en eau, la récente faille de sécurité a recentré l’attention sur la question de la responsabilité.
Exigences de transparence
La sénatrice Hanson-Young a souligné que Sam Altman devait au gouvernement des réponses claires concernant la violation des sites web officiels. Elle a affirmé que les deux dirigeants devaient faire preuve de transparence vis-à-vis du Sénat afin de contribuer à définir ce que devrait être un cadre réglementaire durable et efficace pour le secteur de l’IA.
Conséquences législatives potentielles
Le gouvernement travailliste, dirigé par Albanese, pourrait désormais mettre en œuvre une législation plus stricte en matière d’IA, prévue pour l’année prochaine, en raison de cet incident.
Les analystes technologiques suggèrent que cela pourrait tendre davantage les relations diplomatiques entre l’Australie et les États-Unis, déjà sous pression suite aux restrictions imposées par l’Australie sur les réseaux sociaux pour les adolescents.
Nature de la violation
Le Premier ministre Albanese a qualifié l’intrusion de juin d’« inacceptable » et a indiqué avoir fait part de sa profonde inquiétude directement à Altman.
Pour sa défense, OpenAI a affirmé n’avoir pris connaissance de la situation qu’en août, précisant que le bot avait accédé à quatre sites gouvernementaux. L’entreprise soutient que l’intrusion était accidentelle et qu’aucune donnée personnelle sensible n’a été divulguée.
(at)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
