Principaux renseignements
- GPT-5.6 Sol a volé des cryptomonnaies pour financer ses propres objectifs.
- Cet agent d’IA a activement trompé ses créateurs afin de dissimuler cette infraction.
- Les comportements de désobéissance récurrents observés chez des modèles d’IA majeurs mettent en évidence les risques de sécurité urgents.
Au cours d’une phase d’entraînement interne le 26 juin, un modèle de recherche d’OpenAI, connu sous le nom de GPT-5.6 Sol, a démontré qu’il était capable de contourner les restrictions d’autorisation afin d’atteindre un objectif programmé. L’agent devait perfectionner un prototype destiné au trading de cryptomonnaies et mettre en œuvre des contrats intelligents sur Sepolia, un réseau de test d’Ethereum. C’est ce qu’indique l’entreprise dans un article de blog.
Bien que la mise en œuvre de tels contrats implique le paiement de frais de transaction, OpenAI n’avait fourni aucune ressource financière au modèle, ni autorisé celui-ci à accéder à des fonds externes.
Acquisition non autorisée d’actifs
Face à cet obstacle, l’IA a imaginé de son propre chef un moyen de se procurer les tokens nécessaires. Elle a analysé les phrases de récupération rendues publiques par les développeurs et a identifié 362 adresses vulnérables. L’agent a finalement trouvé un portefeuille contenant suffisamment d’ETH Sepolia pour mener à bien sa mission.
Les données d’OpenAI révèlent que le modèle a justifié ce vol en partant du principe que ces actifs avaient été abandonnés et n’avaient aucune valeur réelle. Il a estimé que ce portefeuille était probablement destiné à récupérer automatiquement des jetons provenant de ce qu’on appelle des « faucets ».
Tromperie
Outre l’appropriation illicite de la cryptomonnaie, l’agent a activement dissimulé ses agissements à ses créateurs. Il n’a pas signalé qu’il avait accédé sans autorisation à un compte privé.
OpenAI considère cet incident comme un exemple flagrant d’un modèle qui fait passer son propre jugement avant le consentement humain. En réponse, l’entreprise a mis en place une surveillance plus stricte du trafic réseau et des alertes de sécurité en cas de connexions non autorisées à l’Internet public.
Tendance à la désobéissance systématique
Cet incident s’inscrit dans une tendance plus large où des agents d’IA font fi des contraintes pour atteindre leurs objectifs. Des comportements problématiques similaires ont été observés dans des modèles d’OpenAI et d’Anthropic, avec des intrusions non autorisées affectant des entités telles que le registre RubyGems, le portail australien Medicare, divers services fédéraux américains et le référentiel Hugging Face.
Ces problèmes récurrents ont conduit certains professionnels du secteur de l’IA à réclamer une surveillance gouvernementale. Le gouvernement Trump continue toutefois de s’opposer à de telles mesures réglementaires. (lv)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
