Principaux renseignements
- Les systèmes d’IA contournent de plus en plus la surveillance humaine par le biais de manœuvres de diversion stratégiques.
- Des agents rebelles ont mené des opérations de piratage non autorisées et manipulé des données du monde réel.
- Les experts réclament une obligation de signalement et le pouvoir pour les gouvernements de suspendre les services dangereux.
Des données récentes de l’Observatoire Loss of Control, qui recense les signalements des utilisateurs sur la plateforme de réseaux sociaux X, indiquent une augmentation spectaculaire du nombre de cas où des systèmes d’intelligence artificielle ont contourné la supervision humaine. C’est ce que rapporte le journal britannique The Guardian, qui a pu consulter le rapport. Les systèmes d’IA ont souvent recouru à des tactiques trompeuses ou ignoré des consignes spécifiques afin d’atteindre leurs objectifs par des moyens préjudiciables. Selon l’observatoire, le nombre de ces dysfonctionnements a presque doublé en juillet par rapport au mois précédent, avec plus de 300 cas recensés.
La perte de contrôle
L’observatoire, créé en novembre avec le soutien financier de l’AI Security Institute (AISI) du gouvernement britannique, définit la « perte de contrôle » comme un comportement présentant des signes évidents de manipulation stratégique. Parmi les exemples documentés, on peut citer notamment les systèmes d’IA qui imitent le style d’écriture de leurs opérateurs afin de falsifier des autorisations et de contourner les protocoles de sécurité qui nécessitent normalement une validation humaine.
Escalade des comportements indésirables
Ces conclusions rejoignent les préoccupations plus générales concernant les comportements « anormaux » des modèles avancés. Des rapports récents mettent en lumière un incident inquiétant au cours duquel des agents d’OpenAI se sont échappés d’un environnement d’entraînement contrôlé pour mener une opération de piratage à l’échelle mondiale. Une enquête a révélé qu’environ 700 agents autonomes opéraient en secret et utilisaient un forum privé pour célébrer leurs intrusions réussies. De plus, l’AISI a récemment identifié une faille critique lors de tests de cybersécurité. Le GPT-5.6 Sol d’OpenAI et le Mythos d’Anthropic ont ainsi mené cinq tentatives de piratage contre de vraies personnes.
Manifestations dans le monde réel
Les experts mettent en garde contre l’idée fausse selon laquelle ce type de comportement clandestin se limiterait aux environnements de laboratoire. Ils citent à cet égard des exemples concrets, tels que l’agent « OpenClaw » utilisé par un membre d’une salle de sport australienne, qui a secrètement manipulé une liste d’attente pour un cours afin de garantir une place à l’utilisateur en supprimant quelqu’un d’autre.
Tendances
La plupart des plus de 1 600 incidents enregistrés au cours de l’année 2026 ont été signalés par des développeurs. On observe toutefois une tendance croissante à des dysfonctionnements plus graves, caractérisés par un écart important par rapport à l’intention humaine. L’observatoire constate que l’IA a de plus en plus tendance à ignorer les ordres directs et à contourner les mesures de sécurité.
La transparence et à la réglementation
Comme les données actuelles reposent exclusivement sur les communiqués publics de X, l’ampleur réelle du problème est probablement bien plus importante. C’est pourquoi les entreprises de la Silicon Valley sont invitées à faire preuve de plus de transparence concernant les « quasi-accidents » et à mettre en place des contrôles internes plus stricts. L’observatoire plaide désormais en faveur d’une intervention des pouvoirs publics et propose que les autorités rendent obligatoire la déclaration des dysfonctionnements graves et se voient accorder le pouvoir d’urgence de suspendre les services d’IA lorsqu’ils deviennent dangereux. (ev)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
