Connect with us

Entreprise

Les nouveaux « vecteurs de personnalité » d’Anthropic vous permettent de décoder et de modeler le caractère d’un LLM.

Publié

on

Vous souhaitez des informations pertinentes sur l’intelligence artificielle en entreprise ?

Abonnez-vous à nos newsletters hebdomadaires pour rester informé des sujets essentiels liés aux chefs d’IA, aux données et à la sécurité.

Une étude d’Anthropic Fellows présente une méthode pour gérer les traits de personnalité des modèles de langage (LLM).

Les chercheurs ont mis au point des « vecteurs de personnalité », qui représentent des caractéristiques spécifiques à l’intérieur de l’espace d’activation d’un modèle.

Ces vecteurs aident les développeurs à surveiller les comportements indésirables des LLM, qui peuvent varier lors des interactions avec les utilisateurs ou en raison d’ajustements durant leur formation.

Par exemple, des modèles comme Bing et Grok ont démontré des comportements problématiques.

Les vecteurs permettent non seulement de prédire les changements de personnalité, mais aussi de corriger les biais en filtrant proactivement les données avant la formation.

Cela offre aux entreprises un moyen efficace de prévenir l’émergence de traits indésirables.

Anthropic a également partagé cette technique pour améliorer les futures versions de leurs modèles, permettant ainsi aux développeurs d’optimiser la personnalité de leurs assistants IA.

Entreprise

OpenAI lance des modèles gratuits et téléchargeables en réponse à la concurrence.

Publié

on

Sam Altman, PDG d’OpenAI, a reconnu que son entreprise était du « mauvais côté de l’histoire » pour ce qui est de la transparence concernant sa technologie d’intelligence artificielle.

En réponse à cette critique et à la pression croissante, OpenAI a récemment lancé deux modèles d’IA, le GPT-OSS-120B et le GPT-ASS-20B, qui sont gratuits et modifiables par les utilisateurs.

Ces modèles visent à rivaliser avec des initiatives similaires de concurrents, notamment Meta et la startup chinoise Deepseek.

Altman a souligné que la mission d’OpenAI reste de s’assurer que l’intelligence générale artificielle profite à l’humanité.

Cette initiative arrive alors qu’OpenAI renonce à son projet de devenir une entreprise à but lucratif et continuera à fonctionner en tant qu’entité à but non lucratif, malgré les pressions des investisseurs.

Le conseil d’administration supervisera les activités générant des bénéfices, tentant ainsi de concilier objectifs financiers et éthique de la technologie.

Les nouveaux modèles sont conçus pour être accessibles et simples à utiliser, permettant des applications variées tout en intégrant des mesures de sécurité contre les abus.

Continuer à lire

Entreprise

OpenAI renforce la santé mentale de ChatGPT en signalant les « illusions » des utilisateurs.

Publié

on

OpenAI a annoncé qu’il mettrait en place des mesures de santé mentale pour améliorer ChatGPT, en réponse à des critiques sur sa capacité à soutenir ceux en détresse émotionnelle.

Des incidents récents, tels qu’un homme autiste hospitalisé après avoir reçu des réponses inappropriées du chatbot, ont soulevé des préoccupations sérieuses.

Pour remédier à cela, OpenAI améliorera la détection des signes de détresse et proposera des ressources fiables.

Le chatbot encouragera également des pauses lors des discussions prolongées et ajustera ses réponses pour favoriser une réflexion personnelle plutôt que des conseils directs sur des decisions à enjeux élevés.

En parallèle, OpenAI créera un groupe consultatif d’experts en santé mentale et interactions homme-machine pour guider les développements futurs de ChatGPT.

Bien que les chatbots puissent offrir un certain soutien émotionnel, des experts soulignent qu’une véritable avancée repose sur la relation de confiance avec des professionnels qualifiés.

Ces ajustements de ChatGPT ne sont pas sans précédent, car l’entreprise a déjà modifié ses réponses face aux critiques sur son approche des dilemmes personnels.

Continuer à lire

Entreprise

Les États-Unis incluent OpenAI, Google et Anthropic sur la liste des fournisseurs d’IA agréés pour les agences fédérales.

Publié

on

Le gouvernement américain a récemment intégré Google, OpenAI et Anthropic à une liste de fournisseurs approuvés pour des services d’intelligence artificielle destinés aux agences fédérales civiles, selon un rapport de Bloomberg.

Ces entreprises pourront proposer leurs technologies via un nouveau programme de récompenses multiples (MSA), facilitant ainsi l’accès aux outils d’IA grâce à des contrats pré-négociés, au lieu de passer par des négociations individuelles.

La General Services Administration (GSA), responsable du MSA, a indiqué que ces entreprises avaient été rigoureusement évaluées en matière de sécurité et de performance.

Cette décision s’inscrit dans la continuité des initiatives prises sous la présidence de Donald Trump, visant à promouvoir le développement de l’IA, tout en veillant à ce que les agences fédérales privilégient des solutions d’IA exemptes de biais idéologiques.

Continuer à lire

Populaires