Principaux renseignements
- OpenAI étudie la possibilité de ralentir le développement de modèles d’IA avancés.
- Sam Altman appelle à une collaboration à l’échelle du secteur pour limiter les risques liés aux systèmes autonomes.
- Les pauses imposées pour des raisons de sécurité perturbent désormais les cycles de formation internes.
Selon un rapport de Bloomberg, OpenAI étudie la possibilité de ralentir le rythme de développement de ses modèles d’IA avancés.
Des sources proches du dossier indiquent que le PDG Sam Altman a suggéré, lors d’une récente réunion du personnel, que l’entreprise pourrait modérer son rythme actuel de progression.
Coordination sectorielle et risques
Bien qu’Altman ait exprimé le souhait que d’autres centres de recherche en IA adoptent une approche similaire, il a reconnu que certaines entreprises concurrentes pourraient ne pas être disposées à coopérer à un tel ralentissement coordonné.
Ce dialogue interne intervient alors que le personnel de l’ensemble du secteur technologique exprime des inquiétudes croissantes concernant les risques associés à l’IA autonome, ce qui conduit à un renforcement de la surveillance à l’échelle du secteur.
Mise en œuvre de mesures de sécurité
Le développeur de ChatGPT a déjà mis en place des mesures de sécurité. Dans ce cadre, certains exercices de formation internes ont été suspendus et certaines étapes du cycle de développement ont été ralenties. Bloomberg a noté que l’entreprise n’avait pas souhaité faire de commentaire officiel sur cette réunion.
Ces mesures de sécurité font toutefois suite à des discussions de haut niveau avec des représentants du gouvernement américain. En juillet, Altman avait notamment annoncé avoir eu des échanges avec la Maison Blanche sur l’importance de maîtriser le rythme de développement de l’IA. (lv)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
