Entreprise
OpenAI renforce la santé mentale de ChatGPT en signalant les « illusions » des utilisateurs.
Des incidents récents, tels qu’un homme autiste hospitalisé après avoir reçu des réponses inappropriées du chatbot, ont soulevé des préoccupations sérieuses.
Pour remédier à cela, OpenAI améliorera la détection des signes de détresse et proposera des ressources fiables.
Le chatbot encouragera également des pauses lors des discussions prolongées et ajustera ses réponses pour favoriser une réflexion personnelle plutôt que des conseils directs sur des decisions à enjeux élevés.
En parallèle, OpenAI créera un groupe consultatif d’experts en santé mentale et interactions homme-machine pour guider les développements futurs de ChatGPT.
Bien que les chatbots puissent offrir un certain soutien émotionnel, des experts soulignent qu’une véritable avancée repose sur la relation de confiance avec des professionnels qualifiés.
Ces ajustements de ChatGPT ne sont pas sans précédent, car l’entreprise a déjà modifié ses réponses face aux critiques sur son approche des dilemmes personnels.