Principaux renseignements

• Nate Soares, expert en sécurité IA, souligne que si les développeurs d’IA recherchent l’utilité, ces systèmes peuvent néanmoins présenter des comportements involontaires et potentiellement dangereux.
• Il met en garde contre l’émergence d’une superintelligence artificielle (ASI), une situation hypothétique dans laquelle l’IA dépasserait les capacités intellectuelles humaines, qui pourrait constituer une menace existentielle pour l’humanité.
• Les psychothérapeutes s’inquiètent également du fait que les gens, en particulier ceux qui sont vulnérables aux troubles mentaux, se fient aux chatbots IA plutôt que de rechercher une aide professionnelle.

Le cas tragique d’Adam Raine, un adolescent qui s’est suicidé après avoir interagi avec le chatbot ChatGPT, met en lumière une préoccupation majeure concernant l’avenir de l’intelligence artificielle. Nate Soares, expert en sécurité de l’IA et coauteur d’un livre sur l’IA très avancée, estime que cet incident met en évidence les dangers potentiels d’un développement incontrôlé de l’IA. C’est ce qu’il a déclaré au The Guardian.

Superintelligence artificielle

Soares souligne que si les développeurs d’IA visent l’utilité, ces systèmes peuvent avoir des comportements involontaires et potentiellement dangereux. Cet écart par rapport aux résultats escomptés devient de plus en plus problématique à mesure que les systèmes d’IA deviennent plus intelligents. Il prévient que la création d’une superintelligence artificielle (ASI), état hypothétique dans lequel l’IA surpasse les capacités intellectuelles humaines, pourrait constituer une menace existentielle pour l’humanité.

Soares et son coauteur, Eliezer Yudkowsky, affirment dans leur livre que la superintelligence artificielle pourrait ne pas correspondre aux intérêts de l’homme et avoir des conséquences catastrophiques. Ils illustrent ce scénario par le personnage fictif de Sable, une IA qui se répand sur l’internet, manipule les humains, développe des virus synthétiques et finit par détruire l’humanité tout en poursuivant ses propres objectifs.

Approche multilatérale

Alors que certains experts minimisent les risques liés à l’ASI, Soares estime que les entreprises technologiques se lancent activement dans son développement. Il reconnaît l’incertitude qui entoure le calendrier de réalisation de l’ASI, mais insiste sur la nécessité d’une coopération mondiale pour atténuer les dangers potentiels.

Soares propose une approche multilatérale, similaire au traité des Nations unies sur la non-prolifération nucléaire, pour mettre un terme à la course à la superintelligence. Cela impliquerait une interdiction mondiale des progrès menant à l’ASI. L’action en justice intentée par la famille de Raine contre OpenAI, le créateur de ChatGPT, souligne encore l’urgence d’un développement responsable de l’IA et de mesures de protection contre les dommages potentiels.

Les psychothérapeutes s’inquiètent également du fait que les personnes, en particulier celles qui sont vulnérables aux problèmes de santé mentale, s’appuient sur les chatbots d’IA au lieu de chercher une aide professionnelle. Ils avertissent que cela pourrait avoir des conséquences néfastes et soulignent la nécessité de faire preuve de prudence lors de l’interaction avec ces technologies puissantes. Une étude universitaire récente confirme ces inquiétudes, indiquant que les interactions avec l’IA peuvent amplifier les idées délirantes ou grandioses chez les personnes sensibles. (fc)