Principaux renseignements

• La collaboration entre l’homme et l’IA devrait déboucher sur une avancée majeure, digne d’un prix Nobel, d’ici un an.
• La concurrence géopolitique accélère le développement malgré des risques existentiels réels et des menaces pour la cybersécurité.
• « La société doit dès maintenant se préparer à l’ère de la superintelligence afin d’éviter une catastrophe d’ampleur pandémique », affirme-t-on.

Jack Clark, cofondateur d’Anthropic, estime que l’évolution rapide de l’intelligence artificielle se déroule à un rythme vertigineux, et prédit qu’une avancée digne d’un prix Nobel sera réalisée grâce à la collaboration entre l’homme et l’IA d’ici un an. C’est ce qu’écrit The Guardian. Lors d’une présentation à l’université d’Oxford, Clark a esquissé un avenir où, d’ici deux ans, des robots bipèdes assisteront les travailleurs et où, d’ici 18 mois, des entreprises gérées par l’IA généreront des millions de dollars de chiffre d’affaires. Il a en outre suggéré que d’ici la fin de l’année 2028, l’IA pourrait être capable de concevoir ses propres versions ultérieures.

La tension entre progrès et risque existentiel

Malgré ces avancées, Clark a souligné que les menaces existentielles posées par l’IA restent importantes, notant qu’il existe une réelle possibilité que cette technologie conduise à l’extinction de l’humanité. Il a mis en avant les dangers des capacités actuelles, citant le modèle Mythos d’Anthropic, qui a démontré une aptitude inquiétante à contourner les défenses de cybersécurité.

S’il a admis que ralentir le développement donnerait à l’humanité plus de temps pour s’adapter, il a fait valoir que les rivalités géopolitiques et commerciales entre nations et entreprises rendent une telle pause improbable, car la quête de domination l’emporte sur les préoccupations de sécurité mondiale.

Une catastrophe d’ampleur pandémique

Anthropic a été initialement fondée par d’anciens employés d’OpenAI qui accordaient la priorité aux protocoles de sécurité. Bien que certains critiques et personnalités politiques aient accusé l’entreprise d’utiliser les avertissements de sécurité pour manipuler la réglementation et s’assurer un avantage sur le marché, Clark soutient que la société est largement dans le déni quant à l’ampleur de la croissance de l’IA.

Il a averti que ne pas se préparer de manière proactive à l’arrivée d’une super-intelligence — qui pourrait bientôt surpasser les capacités collectives de l’humanité — refléterait le manque catastrophique de préparation observé lors de la pandémie de Covid-19, laissant l’humanité dans un état de réaction permanente.

Vulnérabilités systémiques

La concentration du pouvoir au sein de quelques entités à but lucratif telles que Google, OpenAI et Anthropic a suscité des inquiétudes quant aux vulnérabilités systémiques. De plus, le professeur Edward Harcourt, directeur de l’Institute for Ethics in AI, a averti que le fait de s’en remettre à l’IA pour gérer des tâches complexes pourrait conduire à une « atrophie cognitive », érodant le jugement humain. Il a proposé l’adoption d’une IA « socratique », conçue pour stimuler et engager l’intellect humain plutôt que de le remplacer.

En conclusion, Clark a noté que même ses prévisions les plus prudentes impliquaient une transformation fondamentale de l’économie mondiale et des structures sociales. Il a envisagé un avenir où les découvertes scientifiques se produiraient indépendamment des humains et où une « économie des machines » émergerait, distincte des systèmes financiers humains — admettant que, bien que ces possibilités puissent sembler farfelues, elles représentent les profonds changements actuellement en cours. (fc)

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici !