Outils
L’équipe forme des modèles d’IA à détecter les rapports scientifiques fallacieux.
L’équipe de recherche du Stevens Institute of Technology a développé une architecture d’intelligence artificielle pour détecter les inexactitudes dans les reportages scientifiques, en utilisant des modèles de grandes langues (LLM) open-source et des ressources comme l’ensemble de données CORD-19.
Ils ont constitué un ensemble de données de 2 400 articles, tirés de sources fiables et non fiables, incluant des reportages générés par l’homme et par l’IA.
Après avoir associé chaque article à des résumés de recherche originaux, leur système a pu évaluer la précision scientifique de chaque rapport.
Leur méthode a permis de différencier les informations fiables des moins fiables avec une précision d’environ 75 %, se révélant plus efficace pour les articles humains que pour ceux générés par l’IA.
Bien qu’un potentiel d’amélioration existe, ces recherches pourraient mener à des outils comme des plugins de navigateur pour signaler automatiquement les informations inexactes, améliorant ainsi la confiance du public envers les découvertes scientifiques.