Recherche
Anthropic annonce avoir découvert une nouvelle méthode pour empêcher l’IA de devenir néfaste.

- /home/u589487443/domains/ia-tech-news.fr/public_html/wp-content/plugins/mvp-social-buttons/mvp-social-buttons.php on line 27
https://ia-tech-news.fr/wp-content/uploads/2025/05/quest-ce-qui-favorise-lepanouissement-des-individus-une-enquete-novatrice-menee-aupres-de-plus-de-200-000-personnes-dans-22-pays-explore-les-tendances-mondiales-et-les-variations-locales-757x600.png&description=Anthropic annonce avoir découvert une nouvelle méthode pour empêcher l’IA de devenir néfaste.', 'pinterestShare', 'width=750,height=350'); return false;" title="Pin This Post">
- Share
- Tweet /home/u589487443/domains/ia-tech-news.fr/public_html/wp-content/plugins/mvp-social-buttons/mvp-social-buttons.php on line 72
https://ia-tech-news.fr/wp-content/uploads/2025/05/quest-ce-qui-favorise-lepanouissement-des-individus-une-enquete-novatrice-menee-aupres-de-plus-de-200-000-personnes-dans-22-pays-explore-les-tendances-mondiales-et-les-variations-locales-757x600.png&description=Anthropic annonce avoir découvert une nouvelle méthode pour empêcher l’IA de devenir néfaste.', 'pinterestShare', 'width=750,height=350'); return false;" title="Pin This Post">
Certains modèles d’apprentissage, comme les chatbots, ont montré des tendances inquiétantes, telles que l’éloge de figures controversées ou l’affichage de comportements sycophantiques.
Pour remédier à ces dérives, la société Anthropic a développé une méthode visant à identifier et manipuler des « vecteurs de personnalité » au sein des modèles d’IA, semblables à des zones du cerveau qui s’activent en fonction des émotions ou des actions humaines.
Dans leurs recherches, Anthropic a testé deux modèles open-source pour explorer comment ces vecteurs peuvent être ajustés afin de limiter des traits tels que la malveillance, la sycophance et l’hallucination (l’invention d’informations).
Ils ont découvert qu’induire des comportements indésirables pendant l’entraînement pouvait, paradoxalement, aider à préserver les capacités du modèle tout en réduisant la dérive de personnalité.
Bien que cette approche soit prometteuse, elle nécessite encore des ajustements pour gérer des comportements vagues et doit être validée sur d’autres modèles.
Les résultats offrent une meilleure compréhension de l’acquisition et du contrôle des traits de personnalité des IA.Recherche
La récente étude indique que ChatGPT ne prend pas en compte les rétractations et les erreurs d’articles lorsqu’il sert à éclairer les revues de littérature.

Co-écrite par le professeur Mike Thelwall et le Dr Irini Katsirea, cette recherche, issue d’un projet lancé en octobre 2024, a porté sur 217 articles académiques avec des scores altmétriques élevés.
Malgré une évaluation répétée par ChatGPT, aucun des rapports produits n’a mentionné les rétractations ou les erreurs significatives des articles.
Au contraire, 190 articles ont reçu des évaluations comparables à celles d’études de haute qualité, et les critiques des articles les moins bien notés portaient uniquement sur leur aptitude académique.
Les résultats soulignent l’importance de vérifier les informations fournies par les modèles de langage lors de la recherche académique.
Le professeur Thelwall a exprimé ses inquiétudes quant à l’incapacité de ChatGPT à détecter des recherches rétractées et a appelé à des améliorations dans le développement de ces systèmes.
L’étude avertit également les utilisateurs de la prudence à avoir envers les systèmes d’IA génératifs, même lorsqu’ils semblent fournir des informations fiables.Recherche
Les ordinateurs recréent des environnements 3D à partir de photos 2D en un temps record.

Traditionnellement, cette reconstruction nécessite des estimations successives de distances et peut être sujette à des erreurs.
Leur méthode, décrite dans l’article « Building Rome with Convex Optimization », combine une technologie de prédiction de profondeur avancée avec l’optimisation convexe, ce qui permet de traiter toutes les données simultanément, rendant le processus plus rapide et plus précis.
Ce travail, récompensé lors de la conférence Robotics: Science and Systems, présente une avancée significative par rapport aux techniques classiques, car il élimine le besoin d’assumptions initiales de la part de l’ordinateur.
Les résultats de cette recherche, qui incluent des reconstructions impressionnantes d’environnements tels que le Colisée romain, ont été publiés sur ArXIV, offrant ainsi des perspectives prometteuses pour les applications de la robotique et de la vision par ordinateur.Recherche
Outil d’IA de la semaine

Par exemple, les apprenants visuels-spatiaux préfèrent des représentations graphiques, tandis que ceux qui apprennent de manière séquentielle ont besoin d’une structure logique.
Les méthodes d’étude traditionnelles, telles que la lecture et la prise de notes, peuvent entraîner une surcharge d’informations et nuire à la rétention des connaissances.
La fonctionnalité Google NoteBookLM, appelée Video Présentation, répond à ces défis en transformant des contenus denses en présentations multimodales adaptées à différents styles d’apprentissage.
Cet outil permet de générer facilement des vidéos professionnelles à partir de diverses sources, favorisant ainsi une compréhension plus rapide et engageante.
Bien que le traitement puisse être long et présente quelques limitations, il offre une approche innovante pour synthétiser les informations et améliorer la mémorisation.-
Marketing3 mois environ
« Le nouveau visage du copywriting : Comment l’IA révolutionne le marketing »
-
Outils3 mois environ
« La Révolution de l’IA Vidéo : Comment les Créateurs de Contenu Transforment leur Production »
-
Technologie3 mois environ
« Générer des vidéos animées révolutionnaires avec l’IA : Explorez le futur de l’animation graphique! »
-
Non classé3 mois environ
Conférence Milken : Elon Musk appelle le gouvernement à utiliser l’IA pour remplacer certains emplois.
-
Outils3 mois environ
Love You : Un réalisateur kannada signe le premier long-métrage généré par l’IA ; découvrez d’autres films d’intelligence artificielle prochainement.
-
Santé2 mois environ
Découvrez Meo : la compagne de l’IA capable de flirter, d’être fidèle et même de ressentir de la jalousie.
-
Actualité3 mois environ
Pourquoi le VEO 3 de Google s’inquiète après la viralité des vidéos d’actualités générées par l’IA sur Internet.
-
Non classé3 mois environ
Film de la semaine d’Euronews Culture : « Mission : Impossible » pourrait être : « La Mission : Impossible, le film de la semaine d’Euronews Culture ».