Entreprise
Que se passe-t-il quand l’IA confronte l’incertitude humaine ?
Les chercheurs, comme Willie Neiswanger de l’USC, élaborent des frameworks qui intègrent la théorie des décisions et la théorie des utilités pour renforcer la capacité de l’IA à gérer cette incertitude.
Neiswanger souligne que les modèles de grande langue (LLM) peinent à exprimer des nuances de confiance, produisant des réponses d’apparence sûre même lorsque les données sont insuffisantes.
Son travail vise à améliorer la quantification de l’incertitude, permettant aux systèmes d’IA de prendre des décisions éclairées en tenant compte des préférences humaines.
Les applications de cette recherche sont diverses, allant de la planification stratégique en entreprise à l’aide au diagnostic médical.
En intégrant les préférences des utilisateurs dans le processus décisionnel, il est possible de générer des recommandations qui, tout en étant techniquement optimales, respectent également les valeurs humaines essentielles.
Les prochaines étapes de ces recherches visent à élargir ces approches à des domaines variés, comme la logistique ou les soins de santé, tout en améliorant la transparence des décisions prises par les modèles, afin que les utilisateurs comprennent mieux comment et pourquoi ces choix sont faits.