Outils
Comment visualisez-vous un arbre ?
Pour aborder les biais dans les modèles de langage, les scientifiques soulignent l’importance d’examiner les cadres ontologiques qui influencent notre perception et, par conséquent, les résultats de l’IA.
Avec l’essor des outils d’IA génératifs, l’élimination des préjugés sociétaux est devenue primordiale.
Les chercheurs se concentrent non seulement sur les valeurs intégrées dans ces modèles, mais aussi sur les ontologies sous-jacentes qui représentent des façons de conceptualiser la réalité.
Une étude récente a illustré comment des modèles comme ChatGPT interprètent différemment des concepts, comme un arbre, en fonction de ces ontologies.
Les résultats de l’étude révèlent que les systèmes d’IA, bien qu’ils puissent reconnaître la diversité des perspectives, continuent de refléter majoritairement des visions occidentales.
Cela soulève des questions sur l’auto-évaluation des LLM et leur capacité à prendre en compte des expériences vécues.
Les chercheurs plaident pour une réflexion plus profonde sur les hypothèses ontologiques lors du développement de l’IA, avertissant que continuer sur la trajectoire actuelle risque de figer certaines conceptions de la réalité, limitant ainsi l’imagination collective et notre compréhension des notions fondamentales telles que l’humanité et la connexion.