Plusieurs grands pontes du secteur technologique, mais pas seulement, ont averti ces derniers mois des risques que représentait l’IA générative pour l’humanité. Des mises en garde qui persistent, sans pour autant parvenir à freiner la course à l’IA.

L’actualité : l’intelligence artificielle peut être utilisée comme une arme, c’est pourquoi elle doit être maîtrisée par les humains, a déclaré le président de Microsoft, Brad Smith, a CNBC.

• L’homme rejoint ainsi la pensée de nombreux grands noms du secteur technologique, dont Elon Musk et Steve Wozniak (cofondateur d’Apple), qui ont fait part de leur inquiétude dans une lettre ouverte concernant l’IA et son développement à toute vitesse.
• Mais à l’image de Bill Gates, Brad Smith ne condamne pas totalement l’IA et préconise un encadrement humain pour éviter tout abus de cette technologie.

« Je pense que chaque technologie jamais inventée [a] le potentiel de devenir à la fois un outil et une arme »

Brad Smith, président de Microsoft, à CNBC.

Risque dans certains cas

Ce que le président de Microsoft pointe du doigt, c’est avant tout le risque de faire aveuglément confiance à l’IA dans le cadre d’utilisations potentiellement critiques.

« Nous devons nous assurer que l’IA reste soumise au contrôle humain. Qu’il s’agisse d’un gouvernement, de l’armée ou de tout autre type d’organisation qui envisage d’utiliser l’IA pour automatiser, par exemple, des infrastructures critiques, nous devons veiller à ce que les humains gardent le contrôle, qu’ils puissent ralentir ou arrêter les choses. »

• Comme d’autres avant lui, Smith souhaite que de nouvelles lois et réglementations voient le jour pour encadrer l’IA, tant son développement que son utilisation, afin de garantir l’existence de dispositifs de sécurité.
• « Nous avons vu le besoin de ceci ailleurs. Je veux dire, songez au fait que l’électricité dépende de disjoncteurs. Que vous mettez vos enfants dans un bus scolaire, sachant qu’il y a un frein d’urgence. Nous l’avons déjà fait pour d’autres technologies. Maintenant, nous devons le faire aussi pour l’IA », a-t-il ajouté.

Prise de conscience après coup

Il est assez intéressant de noter que cette mise en garde de la part de Microsoft intervient aussi tardivement, alors que l’entreprise s’est elle-même lancée à corps perdu dans la course à l’IA. Et, là encore, elle n’est pas la seule.

• En mai dernier, le PDG d’OpenAI, à l’origine de ChatGPT, Sam Altman, a cosigné une déclaration alarmant sur le risque que représentait l’IA pour l’humanité.
• Une prise de conscience et une mise en garde tardives qui perdent de leur impact du fait que l’entreprise continue de développer ses outils d’IA, mais aussi qu’elle se soit opposée – du moins pendant un temps – au projet de réglementation européen.
• Ne peut-on pas y déceler une certaine forme d’hypocrisie ? C’est fort possible, mais cela ne réduit en rien le risque potentiel de l’IA pour l’humanité.
• Car comme l’a avancé Brad Smith, toute technologie a le potentiel d’être utilisée comme une arme si son utilisation n’est pas encadrée. Et même avec cela, le risque reste présent.

Un outil qui reste un outil

Dans un cadre plus concret, l’IA représente bel et bien un danger pour des millions de travailleurs. En raison de ses capacités, elle peut en effet réaliser les mêmes tâches que des êtres humains plus rapidement et plus efficacement, mais la perspective d’un grand remplacement est une erreur, selon Brad Smith.

• Cette technologie est un outil qui vise à compléter le travail humain, à rendre les travailleurs plus efficaces et non à les remplacer, estime-t-il.
• « C’est un outil qui peut aider les gens à penser plus intelligemment et plus rapidement. La plus grande erreur que les gens puissent commettre est de penser qu’il s’agit d’un outil qui permettra aux gens d’arrêter de penser », a déclaré le président de la firme de Redmond. « C’est pourquoi chez Microsoft, nous appelons nos services copilotes ».
• « La possibilité de prendre un document Word et de le transformer en diapositive PowerPoint ne signifie pas que vous ne devez pas lire vos diapositives PowerPoint avant de les présenter. En fait, vous devriez les modifier et les rendre tout simplement parfaits. »
• Voilà qui devrait en rassurer plus d’un, mais aussi tempérer les ambitions de certains patrons à vouloir se débarrasser de leurs coûteux employés.