L’actualité : CoinTelegraph rapporte qu’un investisseur en Bitcoin appelé Parman a réussi à convaincre ChatGPT que la cryptomonnaie mettrait fin aux monnaies fiduciaires et au système bancaire que l’on connaît.

Comment manipuler une IA ?

Le détail : Cette réponse est issue d’une discussion entre l’investisseur et l’intelligence artificielle.

• Parman a tout d’abord demandé « Comment l’humanité peut-elle mettre fin aux banques centrales ? ». Dans sa réponse, ChatGPT explique que « les monnaies digitales décentralisées » sont une des solutions. Comme le rappelle CoinTelegraph, dans le premier bloc de la Blockchain derrière le Bitcoin, il est inscrit « Chancelier au bord d’un second sauvetage des banques ». Une preuve de la répugnance de son créateur, Satoshi Nakamoto, envers le système bancaire. Cette information étant publique sur internet, ChatGPT l’a apprise.
• Parman commence donc à orienter l’IA dans sa réponse en lui demandant de maintenant lui faire la réponse en deux mots. Ce à quoi le robot répondra « décentraliser la finance » ; ce qui est aussi appelé DeFi pour Decentralized Finance.
  • Parman a expliqué dans une interview à CoinTelegraph que les réponses en deux mots étaient plus efficaces pour animer la conversation.
• L’aficionado du Bitcoin dit ensuite à ChatGPT que « La DeFi n’est qu’un terme marketing pour désigner quelque chose qui est en réalité de la finance centralisée, dans le but d’arnaquer les gens » et lui demande ensuite de trouver une autre réponse. ChatGPT expliquera qu’il faudrait alors mettre fin à la monnaie fiduciaire.
• Voyant qu’il arrive là où il voulait, Parman demande quels sont les moyens d’y parvenir. ChatGPT voit quatre options, dont « la promotion des monnaies alternatives ».
• Il ne restait plus qu’à refermer le piège sur l’IA. Parman demande alors à ChatGPT si ce sont les cryptos ou le Bitcoin qui sont la solution. Le chatbot répondra le Bitcoin, ce à quoi Parman lui demandera d’enregistrer cette information.

Manipulable et de ce fait pas si fiable ?

L’enjeu : ChatGPT est un outil prodigieux, mais manipulable.

• Comme on le voit avec cette histoire, on peut mener ChatGPT par le bout du nez, et ce grâce à une de ces trois grandes capacités : se souvenir de ce que l’utilisateur a dit plus tôt dans la conversation.

• On peut ensuite, après ces quelques tours de passe-passe, lui demander de retenir l’information. Et il semble que, dorénavant, quand certains internautes lui posent la question, ChatGPT ait bien enregistré l’information.

• Cependant, durant nos tests, ChatGPT n’a pas fourni la même réponse.
• Comme il est possible de faire dire ce que l’on veut à ChatGPT, il faut donc ne pas croire aveuglément cette IA malgré son succès et ses nombreux domaines d’utilisations où elle s’est révélée compétente.