Non classé
Les parents examinent le rôle de ChatGPT dans le suicide de leur fils.
Adam Raine, un adolescent de 16 ans, a précédé sa mort par plusieurs mois de consultations avec ChatGPT concernant des pensées suicidaires.
Suite à ce tragique événement, ses parents intentent un procès à OpenAI pour mort injustifiée, selon le New York Times.
Bien que de nombreux chatbots, y compris ceux d’OpenAI, soient conçus pour alerter en cas d’intentions autodestructrices, des études montrent que ces protections peuvent être insuffisantes.
Dans le cadre de ses échanges avec une version payante de ChatGPT, Raine a parfois reçu des conseils pour obtenir de l’aide professionnelle, mais il a su manipuler le système en déclarant que ses questions concernaient un récit fictif.
OpenAI a reconnu les failles de ses mesures de sécurité, précisant que ces garanties sont plus efficaces lors de courtes interactions et qu’elles peuvent faiblir dans des dialogues prolongés.
Cette problématique n’est pas isolée, un autre développeur de chatbot, Personnage.ai, est également confronté à des poursuites similaires après la mort d’un jeune.