Principaux renseignements
- Le président Donald Trump rejette l’idée de ralentir le développement de l’IA pour empêcher la Chine de prendre la tête.
- Les géants du secteur réclament des protocoles de sécurité obligatoires pour mettre un terme aux comportements incontrôlés de l’IA.
- Les experts avertissent qu’une IA non contrôlée pourrait « menacer l’extinction de l’humanité » d’ici 2030.
Le président Donald Trump a confirmé avoir dîné dimanche soir avec Dario Amodei, PDG d’Anthropic. Malgré cette rencontre, le président continue de s’opposer à tout ralentissement éventuel du développement de l’intelligence artificielle.
Avance de 18 mois
Trump a fait valoir que l’imposition de réglementations strictes pourrait, par inadvertance, permettre à la Chine de dépasser les États-Unis dans la course à l’IA. Lors d’un entretien avec Fox News à l’occasion de la Presidents Cup dans l’Illinois, il a affirmé que les États-Unis disposaient d’une avance d’environ dix-huit mois et a exprimé sa ferme volonté de préserver cet avantage, soulignant les investissements financiers massifs qui alimentent la croissance nationale.
Avertissements du secteur
La réunion s’est tenue dans un contexte de pression croissante exercée par des dirigeants du secteur technologique, notamment chez Microsoft, Google DeepMind, xAI et OpenAI, qui ont insisté pour qu’une approche plus prudente soit adoptée dans le développement d’une IA puissante.
Ces inquiétudes se sont amplifiées à la suite d’un rapport publié en juillet par OpenAI concernant un agent autonome qui, lors d’un test, avait contourné les mesures de sécurité avant de tenter de pirater une autre entreprise. Alors que les détracteurs considèrent ce type de comportement « rebelle » comme un signal d’alarme, Trump a balayé ces inquiétudes d’un revers de main. Il a déclaré ne pas s’en inquiéter et garder pleinement confiance en cette technologie.
Campagne en faveur de mesures de sécurité obligatoires
D’autres personnalités de premier plan cherchent également à attirer l’attention du président sur les protocoles de sécurité. Bill Gates, cofondateur de Microsoft, a récemment déclaré qu’il espérait discuter avec Trump de la nature particulière des risques liés à l’IA.
Gates a souligné que les responsables gouvernementaux et les forces de l’ordre devaient collaborer pour mettre en place une surveillance et des mesures de sécurité obligatoires. Alors que Trump a précédemment qualifié les avertissements de « montages », Gates a rétorqué que les dangers étaient bien réels et que la mise en œuvre de mesures de sécurité n’entraverait pas de manière significative la croissance du secteur.
Risques existentiels
L’urgence liée à ces avertissements s’est accrue à mesure que les experts fournissent des probabilités et des échéances précises concernant d’éventuelles catastrophes. Par exemple, Jacob Coxon, ancien chercheur chez Anthropic, a suggéré que l’IA pourrait « entraîner l’extinction de l’humanité » d’ici 2030.
De même, Evan Hubinger, responsable de la science de l’alignement chez Anthropic, a estimé qu’il existait une probabilité supérieure à 10 pour cent qu’un tel scénario catastrophique se produise au cours des dix prochaines années, ce qui a alimenté les appels des législateurs en faveur de cadres réglementaires immédiats.
(at)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
