Principaux renseignements
- La recherche de systèmes d’IA puissants, motivée par des incitations économiques, peut avoir des conséquences catastrophiques si elle n’est pas maîtrisée.
- Une concurrence saine et l’innovation dans le domaine de l’IA peuvent être encouragées par des initiatives à code source ouvert, ce qui rend difficile la domination du domaine par une seule entité.
- La mise en place de mesures visant à atténuer les risques associés à des systèmes d’IA de plus en plus sophistiqués est essentielle pour prévenir les dommages potentiels.
Yoshua Bengio, figure de proue dans le domaine de l’IA et auteur du premier rapport international sur la sécurité de l’IA, s’inquiète de la trajectoire actuelle du développement de l’IA. Il affirme que l’accent mis sur une course à l’armement en matière d’IA, alimentée par des développements récents tels que le chatbot chinois DeepSeek, pourrait avoir des conséquences catastrophiques s’il n’est pas contrôlé. Bengio prévient qu’une telle course donne la priorité à la victoire plutôt qu’à un développement responsable, ce qui pourrait entraîner des compromis éthiques et des négligences en matière de sécurité.
Il souligne que la recherche de systèmes d’IA puissants, motivée par des incitations économiques et le désir d’obtenir un avantage concurrentiel, éclipse souvent les considérations cruciales sur le risque et la responsabilité. Bengio estime que le climat actuel, marqué par une réglementation réduite de l’IA et une concurrence intense entre les géants de la technologie, est très préoccupant. Il souligne les dangers potentiels de la construction de systèmes d’IA de plus en plus sophistiqués en l’absence de garanties et de cadres éthiques adéquats.
Perspectives divergentes
Cependant, tous les experts en IA ne partagent pas le niveau d’alarme de Bengio. Yann LeCun, responsable scientifique de Meta en matière d’IA, offre une perspective plus optimiste. Tout en reconnaissant les progrès rapides de l’IA, il affirme que les grands modèles de langage actuels sont loin de posséder une véritable intelligence comparable à celle des humains. LeCun prédit que d’ici quelques années, l’IA présentera certaines capacités semblables à celles de l’homme, telles que des robots exécutant des tâches sans programmation explicite, rapporte Sky News.
Il considère les initiatives d’IA à code source ouvert telles que DeepSeek comme la preuve qu’aucune entité ne peut dominer le domaine, ce qui favorise une concurrence saine et l’innovation. LeCun estime que la prolifération des modèles d’IA et de l’expertise dans ce domaine empêchera en fin de compte un pays ou une entreprise de détenir le monopole de l’IA.
Atténuer les risques
LeCun estime que la prolifération des modèles et de l’expertise en matière d’IA empêchera en fin de compte un pays ou une entreprise d’obtenir le monopole de l’IA. Malgré ces points de vue divergents, des experts comme Lord Vallance, président de la fondation du Queen Elizabeth Prize for Engineering, reconnaissent les risques potentiels associés à l’IA. Des organisations telles que l’AI Safety Institute du Royaume-Uni sont en train d’être créées pour anticiper et atténuer les dommages potentiels qui pourraient résulter de systèmes d’IA de plus en plus sophistiqués.
Si vous souhaitez accéder à tous les articles, abonnez-vous ici!