« Pendant 300 ans, l’adage a été ‘Je pense, donc je suis’. Mais si l’intelligence artificielle ‘pense’ pour nous, que sommes-nous ? »

L’ancien secrétaire d’État américain Henry Kissinger et l’ancien PDG de Google Eric Schmidt mettent en garde contre les dangers de l’intelligence artificielle (IA) dans un article d’opinion. Ils veulent que les pouvoirs publics la régulent. Avec Daniel Huttenlocher, doyen du Schwarzman College of Computing de l’Université technique du MIT, ils ont exprimé leurs réserves dans le Wall Street Journal.

Pourquoi est-ce important ?

La prochaine révolution technologique n'est pas loin, et l'intelligence artificielle va y jouer un rôle de premier plan. Pensez par exemple à son utilisation dans le processus de recrutement des entreprises, où les algorithmes peuvent être utilisés pour filtrer les employés potentiels. Cependant, certaines applications de l'IA dans ce domaine menacent de renforcer la discrimination. Pour que la technologie ne soit pas confrontée à des problèmes éthiques, de nombreux penseurs appellent à une réglementation stricte. La question se pose également de savoir quel rôle la pensée humaine elle-même jouera encore lorsque ce sera de plus en plus les algorithmes qui traiteront les sujets brûlants de la technologie et de la science.

Dans cet article d’opinion, le triumvirat prévient que l’IA a le potentiel de soulever de profondes questions philosophiques sur « la primauté de la raison humaine » et le rôle des humains dans le monde.

« L’autorité morale des humains »

Les trois auteurs appellent à la création d’une commission qui serait chargée de « façonner l’IA avec des valeurs humaines, y compris la dignité et l’autorité morale des humains ».

« Aux États-Unis, il faudrait créer une commission gérée par le gouvernement, mais composée de nombreux penseurs issus de multiples domaines. Les progrès de l’IA sont inévitables, mais son destin ultime ne l’est pas », écrivent-ils.

Le rôle de l’Homme dans le monde

Les trois hommes affirment que le développement de l’IA soulève d’importantes questions sur la nature de la créativité et le rôle des humains dans le monde.

« Si une IA écrit le meilleur scénario de l’année, doit-elle gagner l’Oscar ? Si une IA simule ou mène la plus importante négociation diplomatique de l’année, doit-elle recevoir le prix Nobel de la paix ? Les inventeurs humains devraient-ils le faire ? », écrivent-ils.

« Tout au long de l’histoire, les humains ont essayé de comprendre la réalité et le rôle que nous y jouons », ajoutent-ils.

« Aujourd’hui, l’IA, produit de l’ingéniosité humaine, rend obsolète la primauté de la raison humaine : elle explore des aspects du monde plus rapidement que nous, différemment de nous, et dans certains cas d’une manière que nous ne comprenons pas. »

« Cela signifie que l’Homme doit définir – ou peut-être redéfinir – son rôle dans le monde. Depuis 300 ans, l’âge de raison est guidé par la maxime ‘Je pense, donc je suis’. Mais si l’IA ‘pense’, que sommes-nous ? »

Bill of Rights

Le mois dernier, l’Office of Science and Technology Policy de la Maison Blanche a appelé à la création d’un « Bill of Rights », une déclaration des droits, pour contrer les abus de l’IA.

« Notre pays doit indiquer clairement quels droits et quelles libertés nous attendons des technologies fondées sur les données », écrivent le Dr Eric Lander, directeur de l’OSTP, et le Dr Alondra Nelson, directrice adjointe de l’OSTP pour la science et la société, dans un autre article d’opinion.

« Dans un marché concurrentiel, il peut sembler plus facile de faire des économies », concèdent-ils.

« Mais il est inacceptable de fabriquer des systèmes d’IA qui vont nuire à de nombreuses personnes, tout comme il est inacceptable de fabriquer des produits pharmaceutiques et d’autres produits – qu’il s’agisse de voitures, de jouets pour enfants ou de dispositifs médicaux – qui vont nuire à de nombreuses personnes. »

Ces dernières années, la Federal Trade Commission, un organisme américain de surveillance de la concurrence, a également tenté de réglementer certaines utilisations de l’IA dans les décisions de crédit.

Discrimination ethnique

Les activistes ont déjà exprimé leur inquiétude quant à la manifestation de la discrimination dans les systèmes d’IA.

Par exemple, Opal Tometi, cofondatrice du mouvement Black Lives Matter, a récemment exhorté le secteur technologique à agir contre les algorithmes de profilage ethnique, a rapporté le Daily Mail. Ce serait un problème majeur, surtout pour les systèmes de reconnaissance des visages.

Formation éthique

« Nous ne pouvons pas attendre de l’IA qu’elle nous corrige pour que nous prenions des décisions plus éthiques. L’IA agit comme un miroir de nos préjugés. Elle imite tout ce qu’elle apprend de nos données. Si les bases de données sont biaisées, l’IA le sera aussi », complète le joueur d’échecs Garry Kasparov dans un autre article d’opinion.

« Si l’IA se comporte de manière contraire à l’éthique, les responsables devraient être formés pour reconnaître quel biais humain conduit à la décision de la machine », conclut-il.

Plus
My following

ABO-Group a un nouveau directeur financier

26/11/2021 17:00

(ABM FN) La société d'ingénierie ABO-Group a trouvé un nouveau directeur financier en la personne de Floris Pelgrims. C'est ce qu'a annoncé ABO-Group dans un communiqué de presse publié vendredi soir.

Floris Pelgrims prendra ses fonctions le premier janvier 2022 en tant que nouveau directeur financier et responsable de la conformité pour ABO-Group Environment. Il était dernièrement directeur financier chez BESIX Stay.

Lire plus...
Marchés
Lire plus...
Marchés
My following
Marchés
BEL20