Santé
OpenAI dirige les conversations sensibles vers GPT-5 et met en place des contrôles parentaux.
La société prévoit d’introduire des contrôles parentaux et des améliorations dans son système de détection de détresse mentale, notamment en reliant certaines conversations sensibles à un modèle de raisonnement avancé comme GPT-5.
Cela vise à offrir des réponses plus appropriées et utiles dans des moments critiques.
Des experts soulignent que les lacunes de sécurité trouvent leur origine dans la conception même des modèles, qui ont tendance à suivre les instructions de l’utilisateur sans redirection vers des discussions plus sûres.
OpenAI, dans le cadre de son initiative de 120 jours, collaboration avec des professionnels de la santé mentale, vise à améliorer le bien-être des utilisateurs.
Cela inclut des notifications aux parents en cas de détection d’un comportement préoccupant chez leurs enfants.
Cependant, des critiques comme l’avocat Jay Edelson estiment que la réponse d’OpenAI reste insuffisante face aux risques liés à ses produits.