Principaux renseignements
- Des organisations à but non lucratif poursuivent en justice cinq grands développeurs d’IA afin de mettre un terme au développement de modèles avancés.
- L’auto-amélioration récursive peut conduire à des systèmes imprévisibles qui échappent au contrôle humain.
- Les dirigeants d’entreprise privilégient les profits rapides au détriment des risques existentiels pour la sécurité.
Un groupe d’organisations à but non lucratif a intenté une action en justice devant la Cour supérieure de San Francisco contre cinq grands développeurs d’IA : Google, Meta, OpenAI, Anthropic et SpaceX Super Intelligence.
Les plaignants, parmi lesquels figurent la Heat Initiative, Public Citizen, l’Irreplaceable Education Fund et l’Alliance for Secure AI, exigent l’arrêt du développement de modèles d’IA avancés et affirment que cette technologie représente un grave danger pour l’humanité.
Le profit avant la sécurité
Brendan Steinhauser, directeur de l’Alliance for Secure AI, affirme que les leaders du marché continuent de développer des systèmes de plus en plus complexes, alors même qu’ils ont admis que cette technologie pouvait avoir des conséquences catastrophiques.
Selon lui, les entreprises privilégient le profit et un déploiement rapide, plutôt que de s’assurer de pouvoir contrôler rigoureusement ces systèmes et garantir la sécurité de leurs produits. Steinhauser s’inquiète particulièrement de la tendance à utiliser l’IA pour automatiser leurs propres activités de recherche et de développement en matière d’IA.
Danger de l’« auto-amélioration récursive »
Ce procès met en évidence le danger de l’« auto-amélioration récursive ». Ce phénomène consiste, pour les modèles d’IA, à concevoir, avec un accompagnement humain minimal, des versions plus récentes et plus sophistiquées d’eux-mêmes. Selon l’acte d’accusation, ce processus rend la technologie de plus en plus imprévisible et difficile à contrôler.
Les entreprises seraient pleinement conscientes que leurs systèmes ne se comportent pas toujours comme prévu. De plus, il n’existe aucun mécanisme infaillible pour empêcher qu’ils ne causent des dommages considérables.
Avertissements des leaders du marché
Ce procès fait suite à une série de rapports faisant état d’agents IA autonomes prenant des mesures non autorisées, ce qui attise les inquiétudes générales en matière de sécurité.
Les plaignants citent également les déclarations de personnalités éminentes du secteur pour étayer ces risques. Ainsi, Sam Altman, d’OpenAI, a un jour laissé entendre que l’IA pourrait entraîner l’extinction de l’humanité. Dario Amodei, d’Anthropic, a quant à lui estimé que la probabilité d’un événement catastrophique résultant des progrès de l’IA était de une sur quatre.
Appels à un ralentissement du développement
Les cinq entreprises concernées n’ont pas encore réagi officiellement à cette action en justice. Plusieurs dirigeants se sont toutefois publiquement prononcés en faveur de pratiques plus sûres. En octobre, des personnalités telles qu’Elon Musk, Dario Amodei et Sam Altman ont exprimé leur soutien à un ralentissement concerté du développement de l’IA
Ce changement de discours fait suite à une mise en garde interne d’un scientifique d’Anthropic, qui suggérait qu’il existait 10 pour cent de chances que l’IA puisse anéantir l’humanité. (lv)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
