Principaux renseignements
- Geoffrey Hinton, le « parrain de l’IA », prédit que l’IA superintelligente pourrait dépasser l’intelligence humaine d’ici 5 à 20 ans.
- Pour atténuer les risques de domination de l’humanité par l’IA superintelligente, Geoffrey Hinton propose de doter l’IA d’un « instinct maternel » afin de donner la priorité au bien-être de l’homme.
- Hinton met également en garde contre d’autres risques potentiels de l’IA, notamment le déplacement d’emplois et la possibilité d’une extinction humaine provoquée par l’IA.
Le célèbre expert en IA Geoffrey Hinton, souvent appelé le « parrain de l’IA », a prononcé un discours lors de la conférence Ai4 à Las Vegas. M. Hinton, lauréat du prix Nobel pour son travail de pionnier dans le domaine de l’intelligence artificielle, prévoit un avenir où l’IA surpassera l’intelligence humaine.
Les inquiétudes de Hinton concernant l’IA superintelligente
Il s’inquiète du fait que l’IA superintelligente pourrait potentiellement dominer l’humanité, établissant une comparaison avec un adulte contrôlant facilement un jeune enfant. Pour atténuer ce risque, M. Hinton a proposé de doter l’IA d’un « instinct maternel », en la programmant pour qu’elle donne la priorité au bien-être de l’homme. Cette approche vise à favoriser une IA qui prend soin des humains de la même manière qu’une mère protège ses enfants.
Tout en reconnaissant les difficultés techniques liées à la réalisation de cet objectif, M. Hinton a souligné son importance pour l’avenir du développement de l’IA. Il estime qu’il est essentiel d’inculquer l’instinct maternel pour que les systèmes d’IA avancés coexistent harmonieusement avec l’humanité.
Au-delà de la domination : Autres risques de l’IA
Les préoccupations de M. Hinton concernant l’IA vont au-delà de la domination. Il a déjà mis en garde contre la possibilité d’une extinction humaine induite par l’IA et d’un déplacement généralisé des emplois, en particulier dans les secteurs des cols blancs. Si les emplois physiques sont actuellement moins menacés, M. Hinton estime que l’IA finira par automatiser de nombreuses tâches traditionnellement effectuées par les humains.
Malgré les risques susmentionnés, il ne plaide pas en faveur d’un arrêt du développement de l’IA. « Après tout, cette technologie a de nombreuses applications utiles, notamment dans les domaines de la santé, de l’éducation et autres », a-t-il déclaré.
(ns)