Outils
Des chercheurs tentent d’influencer l’évaluation par les pairs à l’aide d’invites d’IA dissimulées.
Des universitaires adoptent une stratégie pour influencer l’examen par les pairs de leurs travaux de recherche en intégrant des invites cachées dans leurs articles, visant à inciter les outils d’intelligence artificielle (IA) à émettre des avis positifs.
Selon Nikkei Asia, 17 articles sur le site Arxiv contenaient ces invites, provenant d’auteurs affiliés à 14 universités dans huit pays, dont des établissements prestigieux tels que l’Université Waseda au Japon et l’Université de Columbia aux États-Unis.
Ces articles, principalement axés sur l’informatique, dissimulaient des instructions brèves, souvent en utilisant du texte en blanc ou des polices très petites, demandant explicitement aux outils d’IA de donner uniquement des évaluations positives.
Un professeur de l’Université Waseda a justifié cette pratique en arguant qu’elle visait à contrer les critiques jugées « paresseuses » qui se reposent uniquement sur l’IA, pointant ainsi les limites imposées par certaines conférences sur l’utilisation de l’IA dans les évaluations.