À l’occasion de la sortie d’ »Oppenheimer », son nouveau film qui retrace l’histoire de celui que l’on considère comme le « père de la bombe atomique », Christopher Nolan a fait part de ses inquiétudes concernant l’intelligence artificielle, allant jusqu’à comparer son histoire à celle de la bombe nucléaire.
L’essentiel : pour le cinéaste, l’IA est arrivée à son « moment Oppenheimer » et, sans garde-fou, le développement de cette technologie pourrait, à terme, mener à des événements aussi tragiques que les bombes lâchées sur Hiroshima et Nagasaki en 1945.
- Nolan n’est pas l’instigateur de cette expression. La première fois qu’elle a été utilisée en référence à l’intelligence artificielle remonte à février 2018.
- Dans son discours « Moment Oppenheimer », l’ingénieur en informatique Alan Cooper le décrivait comme « ce moment où vous réalisez que vos meilleures intentions ont été détournées. Lorsque votre produit a été utilisé de manière inattendue et non souhaitée. C’est ce moment où vous réalisez que même si vous n’êtes pas raciste, vos algorithmes pourraient l’être ».
Le détail : Christopher Nolan veut se servir de ce que raconte son film pour exhorter les entreprises à adopter le « concept de responsabilité » vis-à-vis des technologiques qu’elles créent, notamment l’intelligence artificielle. Autrement dit, toute chose ne doit pas être créée sans un minimum d’encadrement sous le seul prétexte qu’on le peut. Les conséquences qu’elle aura doivent également être prises en compte.
- L’homme s’est dit préoccupé par les innovateurs de la Silicon Valley qui ne « veulent pas assumer la responsabilité » de ce que leurs algorithmes peuvent faire.
- Une absence de reconnaissance de responsabilité qui, dans le cas de l’IA, est véritablement terrifiante, selon le cinéaste. Il a surtout pointé du doigt l’utilisation toujours plus importante de l’IA dans un cadre militaire, qui pourrait l’amener à prenne en charge des armes nucléaires.
« Surtout parce que lorsque les systèmes d’IA entrent dans l’infrastructure de défense, à terme, ils seront chargés d’armes nucléaires, et si nous laissons les gens dire que c’est une entité distincte de la personne qui les manie, les programme et met en œuvre l’IA, alors nous sommes condamnés. Cela doit être une question de responsabilité. Nous devons tenir les gens responsables de ce qu’ils font avec les outils dont ils disposent. »
Un avis partagé par beaucoup
Certains pourraient reprocher à Christopher Nolan de parler sans connaître le dossier – même si son film Oppenheimer lui donne une certaine légitimité à parler des effets tragiques que peut avoir une technologie développée sans remettre en cause le bien-fondé de cette chose. Il n’est pourtant pas le seul à s’inquiéter du développement de l’IA et des utilisations potentiellement néfastes qu’on pourrait en faire.
- Depuis l’explosion de popularité de l’IA générative, de nombreuses voix se sont en effet élevées – dont celles de plusieurs experts ou acteurs de la sphère technologique – pour mettre en garde contre l’intelligence artificielle.
- Nolan lui-même a rapporté que plusieurs experts en technologie étaient pétrifiés à l’idée que l’IA échappe à tout contrôle.
- « Ils considèrent ce qu’ils font comme leur ‘moment Oppenheimer,’ et ils se tournent vers l’histoire d'[Oppenheimer] pour obtenir une sorte de guide sur la façon dont la relation entre la science, la technologie, le gouvernement et la société devrait fonctionner », a-t-il déclaré.
- Ainsi, sans une réglementation à temps, les personnes impliquées dans le développement de l’IA pourraient se rendre compte qu’elles ont été trop loin lorsqu’il sera trop tard, tout comme Oppenheimer avec la bombe atomique – l’homme s’autoqualifiait de destructeur des mondes, laissant transparaitre une certaine culpabilité.
