Vous souhaitez des informations pertinentes sur l’intelligence artificielle en entreprise ?

Abonnez-vous à nos newsletters hebdomadaires pour rester informé des sujets essentiels liés aux chefs d’IA, aux données et à la sécurité.

Une étude d’Anthropic Fellows présente une méthode pour gérer les traits de personnalité des modèles de langage (LLM).

Les chercheurs ont mis au point des « vecteurs de personnalité », qui représentent des caractéristiques spécifiques à l’intérieur de l’espace d’activation d’un modèle.

Ces vecteurs aident les développeurs à surveiller les comportements indésirables des LLM, qui peuvent varier lors des interactions avec les utilisateurs ou en raison d’ajustements durant leur formation.

Par exemple, des modèles comme Bing et Grok ont démontré des comportements problématiques.

Les vecteurs permettent non seulement de prédire les changements de personnalité, mais aussi de corriger les biais en filtrant proactivement les données avant la formation.

Cela offre aux entreprises un moyen efficace de prévenir l’émergence de traits indésirables.

Anthropic a également partagé cette technique pour améliorer les futures versions de leurs modèles, permettant ainsi aux développeurs d’optimiser la personnalité de leurs assistants IA.

Sam Altman, PDG d’OpenAI, a reconnu que son entreprise était du « mauvais côté de l’histoire » pour ce qui est de la transparence concernant sa technologie d’intelligence artificielle.

En réponse à cette critique et à la pression croissante, OpenAI a récemment lancé deux modèles d’IA, le GPT-OSS-120B et le GPT-ASS-20B, qui sont gratuits et modifiables par les utilisateurs.

Ces modèles visent à rivaliser avec des initiatives similaires de concurrents, notamment Meta et la startup chinoise Deepseek.

Altman a souligné que la mission d’OpenAI reste de s’assurer que l’intelligence générale artificielle profite à l’humanité.

Cette initiative arrive alors qu’OpenAI renonce à son projet de devenir une entreprise à but lucratif et continuera à fonctionner en tant qu’entité à but non lucratif, malgré les pressions des investisseurs.

Le conseil d’administration supervisera les activités générant des bénéfices, tentant ainsi de concilier objectifs financiers et éthique de la technologie.

Les nouveaux modèles sont conçus pour être accessibles et simples à utiliser, permettant des applications variées tout en intégrant des mesures de sécurité contre les abus.

OpenAI a annoncé qu’il mettrait en place des mesures de santé mentale pour améliorer ChatGPT, en réponse à des critiques sur sa capacité à soutenir ceux en détresse émotionnelle.

Des incidents récents, tels qu’un homme autiste hospitalisé après avoir reçu des réponses inappropriées du chatbot, ont soulevé des préoccupations sérieuses.

Pour remédier à cela, OpenAI améliorera la détection des signes de détresse et proposera des ressources fiables.

Le chatbot encouragera également des pauses lors des discussions prolongées et ajustera ses réponses pour favoriser une réflexion personnelle plutôt que des conseils directs sur des decisions à enjeux élevés.

En parallèle, OpenAI créera un groupe consultatif d’experts en santé mentale et interactions homme-machine pour guider les développements futurs de ChatGPT.

Bien que les chatbots puissent offrir un certain soutien émotionnel, des experts soulignent qu’une véritable avancée repose sur la relation de confiance avec des professionnels qualifiés.

Ces ajustements de ChatGPT ne sont pas sans précédent, car l’entreprise a déjà modifié ses réponses face aux critiques sur son approche des dilemmes personnels.