Selon Nikkei Asia, 17 articles sur le site Arxiv contenaient ces invites, provenant d’auteurs affiliés à 14 universités dans huit pays, dont des établissements prestigieux tels que l’Université Waseda au Japon et l’Université de Columbia aux États-Unis.

Ces articles, principalement axés sur l’informatique, dissimulaient des instructions brèves, souvent en utilisant du texte en blanc ou des polices très petites, demandant explicitement aux outils d’IA de donner uniquement des évaluations positives.

Une étude de Harvard indique que près de 40 % des travailleurs américains utilisent des technologies d’IA, souvent pour améliorer la productivité et analyser des données.

Pour les sociétés de conseil en investissement, la priorité n’est plus simplement d’adopter l’IA, mais de développer rapidement des politiques de gouvernance adéquates pour encadrer son utilisation.

Cependant, cette adoption rapide a créé un écart de conformité qui pose des risques en matière de confidentialité des données et de réglementation.

Une politique d’utilisation de l’IA est essentielle pour guider les équipes sur son utilisation appropriée.

Cela inclut des directives sur les outils là où leur utilisation est permise, les types de données pouvant être traitées, les protocoles de sécurité, et la nécessité de documentation.

En parallèle, les activités interdites doivent être clairement définies pour éviter les abus, comme l’utilisation d’IA pour générer des conseils financiers sans supervision.

Cette collaboration, annoncée récemment, vise à développer des agents d’IA capables de résoudre des problèmes et d’exécuter des tâches de manière autonome, contrairement aux simples chatbots de conversation.

Dust, dont les cofondateurs ont un passé chez OpenAI, mettra en œuvre le modèle de Claude d’Anthropic pour créer des systèmes d’exploitation où les agents d’IA partageront des données en toute sécurité.

Cette initiative répond à un besoin croissant d’interconnectivité entre les divers outils d’IA utilisés par les entreprises.

Cependant, l’intégration des agents d’IA soulève des défis, notamment la responsabilité en cas d’erreurs.

Anthropic et Dust s’efforcent d’éclaircir qui est responsable lorsque des agents causent des problèmes, un aspect crucial dans le cadre de l’utilisation croissante de l’IA au travail.