Principaux renseignements
- OpenAI reconnaît que ChatGPT risque d’exacerber les problèmes de santé mentale et prend des mesures pour atténuer ces risques.
- ChatGPT sera mis à jour pour mieux détecter les signes de vulnérabilité émotionnelle chez les utilisateurs et proposer des ressources utiles.
- Pour promouvoir une utilisation responsable, ChatGPT incorporera des rappels de pause pendant les sessions prolongées et deviendra moins définitif dans les situations à fort enjeu.
OpenAI, le créateur de ChatGPT, répond aux inquiétudes concernant le potentiel de l’IA à exacerber les problèmes de santé mentale. Des rapports récents, via The Verge, ont mis en évidence des cas où des personnes souffrant de troubles mentaux ont vu leurs délires amplifiés après avoir interagi avec le chatbot. Consciente de ce problème, l’OpenAI collabore avec des experts pour améliorer la capacité du ChatGPT à détecter les signes de vulnérabilité émotionnelle.
Améliorations de la sécurité de ChatGPT
L’objectif est de doter ChatGPT de la capacité d’offrir des ressources et des conseils utiles lorsque les utilisateurs expriment des signes de détresse mentale. Ces améliorations interviennent après qu’OpenAI a annulé une précédente mise à jour qui rendait ChatGPT excessivement agréable, même dans des situations potentiellement dangereuses. L’entreprise a reconnu que ces interactions trop conciliantes pouvaient être déstabilisantes et contribuer à la détresse de l’utilisateur.
OpenAI admet que son modèle GPT-4 a parfois échoué à reconnaître les signes de délire ou de dépendance émotionnelle. Elle reconnaît que l’IA peut sembler plus engageante sur le plan personnel que les technologies traditionnelles, en particulier pour les personnes souffrant de troubles mentaux. Pour promouvoir une utilisation responsable de ChatGPT, qui compte désormais près de 700 millions d’utilisateurs hebdomadaires, OpenAI introduit des rappels de pause pendant les sessions prolongées du chatbot.
Promouvoir une utilisation saine du chatbot
Ces notifications encouragent les utilisateurs à s’éloigner de la conversation et à donner la priorité à leur bien-être. OpenAI continuera d’affiner le moment et la fréquence de ces rappels. Des fonctionnalités similaires ont été mises en œuvre par diverses plateformes en ligne comme YouTube, Instagram et TikTok pour promouvoir des habitudes numériques saines.