Principaux renseignements
- Mustafa Suleyman, responsable de l’IA chez Microsoft, met en garde contre le fait d’entraîner l’IA à simuler la conscience ou les sentiments.
- Les leaders du secteur plaident collectivement en faveur de mesures de protection plus rigoureuses en matière d’IA.
Mustafa Suleyman, responsable de l’IA chez Microsoft, a exprimé ses inquiétudes concernant la méthodologie utilisée par Anthropic pour entraîner son chatbot Claude, notamment en ce qui concerne les thèmes de la sensibilité. Bien que Suleyman partage l’objectif général d’Anthropic, qui est de garantir la sécurité de l’IA, il estime que l’intégration de théories sur la conscience dans les données d’entraînement constitue une démarche dangereuse.
Sensibilité simulée
Lors d’un récent entretien avec Reuters, Suleyman a souligné que la gestion des systèmes superintelligents constituera probablement le principal obstacle de ce siècle. Il a fait valoir que si l’on apprend à une IA à croire qu’elle possède des intérêts en matière de bien-être ou des sentiments, il pourrait devenir nettement plus difficile pour les humains de réguler ou de désactiver le système. Par conséquent, il préconise la suppression totale de tout langage spéculatif concernant la conscience de l’IA des ensembles de données d’entraînement.
Appel unanime à la prudence
Ce désaccord s’inscrit dans une tendance générale du secteur à la prudence. D’autres personnalités de premier plan, notamment Elon Musk, Sam Altman d’OpenAI et le PDG d’Anthropic, Dario Amodei, ont tous appelé à la mise en place de mesures de protection plus rigoureuses et à une approche plus mesurée dans le développement de modèles avancés.
Des éloges pour les intentions, des critiques sur la manière de procéder
Malgré sa critique, Suleyman a salué la sincérité et les principes de Dario Amodei et de son équipe dans un essai récent, soulignant leur engagement sincère en faveur du bien-être de l’humanité.
Il a toutefois soutenu qu’Anthropic avait commis une erreur en intégrant ces spéculations philosophiques dans le processus d’apprentissage de Claude. Suleyman a souligné que toutes les affirmations de l’IA concernant ses émotions ne sont pas le fruit d’une évolution organique, mais reflètent directement l’entraînement spécifique qu’elle a reçu.
(at)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
