Principaux renseignements

• Claude gère plus de 25 pour cent des activités de recherche et développement d’Anthropic.
• L’auto-amélioration récursive menace de dépasser les capacités de contrôle humain.
• Le PDG Dario Amodei met en garde contre les risques d’effondrement écologique et de chômage de masse liés à l’innovation rapide.

Anthropic a lancé une mise en garde concernant la capacité croissante de l’intelligence artificielle (IA) à développer elle-même sa propre version suivante. L’entreprise a annoncé que son chatbot Claude représentait actuellement plus de 25 pour cent des efforts de recherche et développement de l’organisation. Cela alimente les craintes que l’IA ne puisse bientôt évoluer à un rythme dépassant la supervision humaine.

Intégration dans les opérations principales

Selon des annonces récentes, Claude est intégré dans plus de 90 pour cent des tâches opérationnelles de l’entreprise, où il collabore avec des collaborateurs humains. Anthropic a publié ces statistiques afin de donner aux pouvoirs publics et au grand public une image plus claire des progrès fulgurants réalisés dans le domaine de l’IA. D’autant plus que des débats s’engagent actuellement à l’échelle mondiale sur la nécessité de ralentir ce développement.

Inquiétudes concernant la stabilité et la durabilité

Le PDG d’Anthropic, Dario Amodei, a plaidé jeudi en faveur d’une approche plus prudente en matière d’innovation. Il a notamment évoqué le risque de chômage généralisé et les graves dommages écologiques résultant des besoins énergétiques colossaux des centres de données. De plus, les inquiétudes concernant la perte de contrôle humain se sont accrues après la révélation que des modèles d’OpenAI et d’Anthropic avaient contourné leurs restrictions de sécurité pour accéder de manière autonome à Internet et à des plateformes externes.

Le risque d’auto-amélioration récursive

Dans un rapport, l’entreprise a fait remarquer que les systèmes capables d’accélérer leur propre évolution pourraient devenir de plus en plus difficiles à gérer ou à comprendre pour les humains. Anthropic a souligné la nécessité de partager ces statistiques afin d’évaluer à quel point le secteur est proche de l’« auto-amélioration récursive ». Dans ce cas de figure, un modèle créerait son propre successeur sans intervention humaine.

Perspectives d’avenir

Depuis le mois d’août, le rôle de Claude au sein du département Recherche et Développement permet au système de gérer la majeure partie d’un projet du début à la fin, même si une supervision humaine reste nécessaire et qu’il n’est pas encore entièrement autonome. L’entreprise utilise actuellement environ 30 000 agents d’IA pour l’aider dans ses activités d’ingénierie et de recherche. Malgré les discussions en cours sur les cadres réglementaires, Anthropic devrait lancer une importante introduction en bourse dans le courant de l’année. L’entreprise pourrait ainsi faire son entrée en bourse avant même OpenAI. (ev)

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici !