Des universitaires adoptent une stratégie pour influencer l’examen par les pairs de leurs travaux de recherche en intégrant des invites cachées dans leurs articles, visant à inciter les outils d’intelligence artificielle (IA) à émettre des avis positifs.

Selon Nikkei Asia, 17 articles sur le site Arxiv contenaient ces invites, provenant d’auteurs affiliés à 14 universités dans huit pays, dont des établissements prestigieux tels que l’Université Waseda au Japon et l’Université de Columbia aux États-Unis.

Ces articles, principalement axés sur l’informatique, dissimulaient des instructions brèves, souvent en utilisant du texte en blanc ou des polices très petites, demandant explicitement aux outils d’IA de donner uniquement des évaluations positives.

Un professeur de l’Université Waseda a justifié cette pratique en arguant qu’elle visait à contrer les critiques jugées « paresseuses » qui se reposent uniquement sur l’IA, pointant ainsi les limites imposées par certaines conférences sur l’utilisation de l’IA dans les évaluations.

L’intelligence artificielle, autrefois perçue comme un concept futuriste, est maintenant intégrée dans divers secteurs, y compris les conseils financiers.

Une étude de Harvard indique que près de 40 % des travailleurs américains utilisent des technologies d’IA, souvent pour améliorer la productivité et analyser des données.

Pour les sociétés de conseil en investissement, la priorité n’est plus simplement d’adopter l’IA, mais de développer rapidement des politiques de gouvernance adéquates pour encadrer son utilisation.

Cependant, cette adoption rapide a créé un écart de conformité qui pose des risques en matière de confidentialité des données et de réglementation.

Une politique d’utilisation de l’IA est essentielle pour guider les équipes sur son utilisation appropriée.

Cela inclut des directives sur les outils là où leur utilisation est permise, les types de données pouvant être traitées, les protocoles de sécurité, et la nécessité de documentation.

En parallèle, les activités interdites doivent être clairement définies pour éviter les abus, comme l’utilisation d’IA pour générer des conseils financiers sans supervision.

Établir ces lignes directrices dès maintenant permettra aux entreprises de naviguer dans l’évolution réglementaire tout en démontrant leur engagement envers une innovation responsable, positionnant ainsi l’IA comme un atout stratégique plutôt que comme un risque.

Anthropic, une entreprise américaine spécialisée dans l’intelligence artificielle, s’associe à Dust, une startup parisienne, pour renforcer sa présence en Europe.

Cette collaboration, annoncée récemment, vise à développer des agents d’IA capables de résoudre des problèmes et d’exécuter des tâches de manière autonome, contrairement aux simples chatbots de conversation.

Dust, dont les cofondateurs ont un passé chez OpenAI, mettra en œuvre le modèle de Claude d’Anthropic pour créer des systèmes d’exploitation où les agents d’IA partageront des données en toute sécurité.

Cette initiative répond à un besoin croissant d’interconnectivité entre les divers outils d’IA utilisés par les entreprises.

Cependant, l’intégration des agents d’IA soulève des défis, notamment la responsabilité en cas d’erreurs.

Anthropic et Dust s’efforcent d’éclaircir qui est responsable lorsque des agents causent des problèmes, un aspect crucial dans le cadre de l’utilisation croissante de l’IA au travail.

Bien que ces technologies promettent d’optimiser de nombreuses tâches, leur fiabilité doit encore être améliorée, comme l’a illustré une expérience récente où un agent a rencontré des difficultés à générer des profits.