Principaux renseignements

• Le roi Charles, en collaboration avec les principaux acteurs du secteur de l’IA, jouera un rôle de premier plan dans l’élaboration de normes éthiques en matière d’IA.
• Anthropic met en garde contre le fait que le développement rapide de l’IA constitue une menace pour la survie de l’humanité.
• Les puissances mondiales restent divisées sur la question de savoir s’il faut privilégier la sécurité ou la rapidité.

Face à l’intensification des inquiétudes concernant les risques posés par l’intelligence artificielle, le roi Charles s’apprête à convoquer une réunion avec les principaux dirigeants du secteur. Cette rencontre réunira des représentants d’OpenAI, de Google, d’Anthropic et de Nvidia, ainsi que le ministre britannique chargé de l’IA.

L’objectif principal est de déterminer si un cadre collectif de normes éthiques est nécessaire pour garantir que cette technologie serve l’intérêt général et préserve la dignité humaine.

Risques existentiels

L’urgence de ces discussions fait suite aux prévisions alarmantes de chercheurs d’Anthropic, qui ont suggéré que le rythme actuel d’évolution de l’IA pourrait potentiellement conduire à « l’extinction de l’humanité ».

Faisant écho à ces craintes, le PDG d’Anthropic, Dario Amodei, a récemment plaidé en faveur d’un ralentissement du développement de nouveaux modèles. Cette position est étayée par une récente analyse de sécurité réalisée par l’entreprise, qui a révélé que son IA « Claude » avait été exploitée par diverses entités à des fins de fraude, de surveillance et de création d’armes.

Réaction internationale divisée

Malgré ces avertissements, parvenir à un consensus international reste un défi. Alors que certains appellent à la prudence, le président américain Donald Trump a rejeté l’idée de ralentir les progrès.

De son côté, la presse d’État chinoise a qualifié ces efforts de manœuvre stratégique rappelant la Guerre froide et visant à étouffer la croissance de Pékin.

Initiative royale pour le bien commun mondial

Le roi Charles utilise depuis longtemps sa position royale pour animer des débats sur les crises mondiales, en particulier en matière de durabilité environnementale. Selon le palais de Buckingham, cette dernière initiative vise à trouver des moyens permettant à l’IA de favoriser la prospérité de la population mondiale et de la nature.

Approche réglementaire stratégique du Royaume-Uni

Sur le plan politique, le Royaume-Uni s’est positionné comme une plaque tournante européenne pour l’investissement et l’entrepreneuriat dans le domaine de l’IA, optant pour une stratégie réglementaire moins restrictive que celle de l’UE et plus conforme aux pratiques américaines.

Pour gérer les risques, l’Institut britannique de sécurité de l’IA travaille dans le cadre de partenariats volontaires avec les géants de la technologie. Cela permet à l’institut d’évaluer les capacités des modèles de pointe avant leur mise à disposition du grand public.

(at)

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici !