L’intelligence artificielle pourrait bien devenir une arme, mais pas comme vous le pensez

Dotée d’une capacité de calcul numérique pratiquement illimitée, l’intelligence artificielle peut imaginer des solutions auxquelles l’Homme n’aurait sans doute jamais pensé. Mais aussi bénéfique soit-elle, l’IA peut également mener à des choses terribles. En réalité, étant donné qu’elle n’est ni bonne ni mauvaise, tout dépend de l’utilisation que l’on en fait.

L’intelligence artificielle a quelque chose d’effrayant. Une technologie créée par l’Homme qui peut « penser » par elle-même, ce n’est pas naturel. Mais ce n’est pas tout à fait exact, tout du moins pas à l’heure actuelle. On est encore loin des personnages de fiction dotée de capacités de penser par eux-mêmes et de réduire l’humanité en esclavage. Pour l’instant, les IA se contentent d’être des outils numériques capables d’effectuer des calculs à partir de données. Une capacité qui est utilisée dans de nombreux cas de figures (santé, climat, informatique) à des fins (logiquement) bénéfiques.

Utilisation à des fins malveillantes

En réalité, l’orientation de l’intelligence artificielle dépend de l’utilisation que l’on en fait. Elle peut aider à faire le bien et ainsi permettre de soigner des maladies ou être utilisée à des fins malveillantes, telle une arme pour s’attaquer à des systèmes informatiques ou générer des scénarios pour nuire à autrui de diverses manières.

Une étude récente a d’ailleurs démontré à quel point il était facile de faire vaciller une IA du mauvais côté. Des modèles d’IA peuvent en effet être entrainés pour imaginer d’hypothétiques agents d’armes biologiques.

A l’occasion d’une conférence internationale sur la sécurité, des chercheurs ont modifié le but premier d’une IA pour démontrer que ses résultats dépendent avant tout de son utilisation. Ainsi, en seulement 6 heures, l’IA en question a identifié 40.000 armes biologiques en combinant divers éléments chimiques.

Le fait est que si l’IA, grâce à sa puissance de calcul, peut repérer des combinaisons chimiques et des composés médicamenteux bénéfiques pour la santé, elle peut en faire de même pour créer des substances potentiellement dangereuses, voire mortelles.

Les chercheurs qui ont mené cette expérience ont modifié l’IA pour qu’elle génère des modèles similaires au VX , soit l’agent neurotoxique le plus puissant, à partir de molécules toxiques. Il s’est avéré que ses créations étaient encore plus toxiques que le modèle de base. Par précaution, les chercheurs ont gardé secrets certains éléments de leur expérience.

« En inversant l’utilisation de nos modèles d’apprentissage automatique, nous avions transformé notre modèle génératif inoffensif d’un outil utile de médecine en un générateur de molécules probablement mortelles », ont expliqué les chercheurs dans la revue Nature Machine Intelligence.

Une mise en garde

Aucune des armes biologiques pensées par l’IA n’a été explorée ni assemblée en laboratoire, ont rassuré les chercheurs. Leur expérience avait simplement pour but de servir d’avertissement sur les dangers de l’intelligence artificielle.

Une certaine expertise est évidemment nécessaire pour reproduire l’expérience des chercheurs, mais une utilisation malveillante de l’IA n’est malheureusement pas à exclure.

« Notre preuve de concept met ainsi en évidence comment un créateur autonome non humain d’une arme chimique mortelle est tout à fait faisable », ont-ils expliqué.

Plus
Marchés
My following
Marchés
BEL20