Principaux renseignements
- OpenAI a reporté sine die le lancement de son chatbot « Citron Mode » en raison de préoccupations éthiques soulevées par ses employés et ses investisseurs.
- Les défis techniques liés au filtrage des contenus inappropriés et à la prévention de la génération de contenus préjudiciables ont contribué à ce report.
- Cette décision reflète un changement stratégique visant à donner la priorité aux outils de productivité essentiels plutôt qu’à des applications potentiellement controversées telles que les chatbots pour adultes.
OpenAI a pris la décision de reporter sine die la sortie d’un chatbot destiné aux adultes, invoquant les préoccupations tant des employés que des investisseurs. C’est ce qu’a confirmé l’entreprise au Financial Times. Ce chatbot, qui s’appellerait « Citron mode », devait initialement sortir en décembre 2025, mais a connu des retards en raison de débats internes sur ses implications éthiques.
Défis techniques
L’entreprise a rencontré des difficultés. Elle tente d’entraîner des modèles capables de filtrer efficacement les contenus inappropriés. En même temps, elle doit empêcher la génération de contenus préjudiciables, comme des représentations de bestialité ou d’inceste. OpenAI a reconnu un besoin clair. L’entreprise doit mener davantage de recherches sur les effets à long terme des interactions érotiques avec l’intelligence artificielle. Elle s’intéresse aussi à l’attachement des utilisateurs à ces systèmes. Ainsi, OpenAI estime ne pas disposer de preuves empiriques suffisantes. Par conséquent, elle ne peut pas justifier le lancement d’une telle fonctionnalité pour le moment.
La décision d’OpenAI de mettre en veilleuse le chatbot pour adultes fait suite à l’annonce récente de l’arrêt de son générateur vidéo Sora, soulignant un changement stratégique visant à donner la priorité aux outils de productivité essentiels tels que les assistants de codage. Cette décision intervient dans le sillage de la controverse entourant le modèle Grok de son rival xAI, qui a généré des deepfakes de personnes nues, y compris des enfants.
Considérations éthiques
Les préoccupations des employés ont également joué un rôle important dans la décision d’OpenAI. Un cadre supérieur a même démissionné en raison d’objections éthiques au projet, soulignant l’importance des liens et des relations humaines.
La précision de la technologie de vérification de l’âge de OpenAI ajoute de la complexité à la situation. Bien qu’elle ait été mise en place pour réduire les risques pour les mineurs, son taux d’erreur dépasserait les dix pour cent. Ainsi, cela suscite des inquiétudes. Des contenus pour adultes pourraient rester accessibles à des utilisateurs mineurs. Cependant, OpenAI nuance cette critique. L’entreprise affirme que ce taux d’erreur se situe dans les normes du secteur. De plus, elle poursuit ses efforts pour améliorer la précision du système.
(jw)(fc)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !