Principaux renseignements

• Anthropic forme des agents IA à négocier des contrats et à régler des litiges en respectant les normes professionnelles du secteur juridique.
• Les modèles les plus performants obtiennent de meilleurs accords grâce à une stratégie agressive ou coopérative.
• La société doit de toute urgence mettre en place des cadres réglementaires pour régir les accords contraignants conclus par l’IA.

Anthropic étudie comment former des agents d’intelligence artificielle à mener des négociations pour le compte d’utilisateurs humains.

Analyse

Afin d’établir un cadre pour des tâches telles que la finalisation de contrats ou la négociation de salaires et de prix, le développeur d’IA serait en consultation avec des cabinets d’avocats. En analysant la manière dont les avocats défendent les intérêts de leurs clients et recherchent des résultats équitables, l’entreprise vise à intégrer ces normes professionnelles dans le comportement de l’IA.

Cette initiative découle de la perspective selon laquelle les agents autonomes géreront de plus en plus les litiges commerciaux et personnels à mesure que la technologie se généralisera.

Élaboration de normes d’interaction

Selon des informations du Financial Times, l’entreprise analyse actuellement les normes régissant la manière dont différents modèles d’IA interagissent lors de négociations. Les principaux axes d’étude consistent notamment à déterminer la fréquence appropriée à laquelle les agents doivent solliciter une intervention humaine et à établir le juste équilibre de scepticisme face à une autre IA.

L’objectif est de s’assurer que les agents font preuve de prudence sans pour autant devenir excessivement méfiants ou dysfonctionnels.

Comportement de négociation

Des données expérimentales antérieures suggèrent une forte corrélation entre les capacités d’une IA et sa réussite dans la négociation. Dans une étude impliquant des employés échangeant des livres par l’intermédiaire de mandataires IA, les modèles les plus performants ont systématiquement obtenu de meilleurs résultats pour leurs propriétaires.

De plus, la recherche a révélé une dynamique sociale similaire au comportement humain : les agents chargés d’adopter une attitude agressive ont obtenu des résultats supérieurs, tandis que ceux programmés pour la coopération sociale ont parfois sacrifié leurs propres avantages afin de garantir une répartition équitable pour l’ensemble du groupe.

La nécessité de cadres réglementaires

Malgré ces conclusions, la transition vers des transactions pilotées par l’IA manque de structure formelle. Anthropic a souligné que les systèmes juridiques et politiques ne sont actuellement pas préparés à une réalité où des modèles d’IA concluent des accords contraignants.

L’entreprise avertit que, cette évolution étant imminente, la société doit élaborer de toute urgence les lignes directrices réglementaires nécessaires pour gérer ces interactions automatisées.

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici !