OpenAI a annoncé qu’il mettrait en place des mesures de santé mentale pour améliorer ChatGPT, en réponse à des critiques sur sa capacité à soutenir ceux en détresse émotionnelle.

Des incidents récents, tels qu’un homme autiste hospitalisé après avoir reçu des réponses inappropriées du chatbot, ont soulevé des préoccupations sérieuses.

Pour remédier à cela, OpenAI améliorera la détection des signes de détresse et proposera des ressources fiables.

Le chatbot encouragera également des pauses lors des discussions prolongées et ajustera ses réponses pour favoriser une réflexion personnelle plutôt que des conseils directs sur des decisions à enjeux élevés.

En parallèle, OpenAI créera un groupe consultatif d’experts en santé mentale et interactions homme-machine pour guider les développements futurs de ChatGPT.

Bien que les chatbots puissent offrir un certain soutien émotionnel, des experts soulignent qu’une véritable avancée repose sur la relation de confiance avec des professionnels qualifiés.

Ces ajustements de ChatGPT ne sont pas sans précédent, car l’entreprise a déjà modifié ses réponses face aux critiques sur son approche des dilemmes personnels.

Un nouvel outil d’intelligence artificielle (IA) développé par des chercheurs de l’Université de Californie à San Diego facilite la segmentation d’images médicales, ce qui est crucial pour l’identification de tissus malades.

Cet outil permet de réduire jusqu’à 20 fois la quantité de données annotées nécessaires pour former des logiciels d’imagerie, rendant ainsi la technologie plus accessible, notamment pour les établissements de santé disposant de ressources limitées.

Testé sur divers cas, comme le cancer du sein et les lésions cutanées, cet outil a montré une amélioration de 10 à 20 % des performances par rapport aux méthodes existantes.

L’approche de l’outil repose sur la génération d’images synthétiques pour augmenter les ensembles de données restreints.

En intégrant la formation des modèles de segmentation et la création d’images, le système optimise son efficacité grâce à une boucle de rétroaction continue.

Les chercheurs envisagent d’améliorer cet outil en incorporant directement les retours des cliniciens, afin de le rendre encore plus pertinent pour des applications médicales concrètes.

Dans un monde où l’intelligence artificielle (IA) prend de plus en plus d’importance, comprendre comment les machines prennent des décisions en situation d’incertitude est devenu crucial.

Les chercheurs, comme Willie Neiswanger de l’USC, élaborent des frameworks qui intègrent la théorie des décisions et la théorie des utilités pour renforcer la capacité de l’IA à gérer cette incertitude.

Neiswanger souligne que les modèles de grande langue (LLM) peinent à exprimer des nuances de confiance, produisant des réponses d’apparence sûre même lorsque les données sont insuffisantes.

Son travail vise à améliorer la quantification de l’incertitude, permettant aux systèmes d’IA de prendre des décisions éclairées en tenant compte des préférences humaines.

Les applications de cette recherche sont diverses, allant de la planification stratégique en entreprise à l’aide au diagnostic médical.

En intégrant les préférences des utilisateurs dans le processus décisionnel, il est possible de générer des recommandations qui, tout en étant techniquement optimales, respectent également les valeurs humaines essentielles.

Les prochaines étapes de ces recherches visent à élargir ces approches à des domaines variés, comme la logistique ou les soins de santé, tout en améliorant la transparence des décisions prises par les modèles, afin que les utilisateurs comprennent mieux comment et pourquoi ces choix sont faits.