Connect with us

Non classé

Une nouvelle étude montre que l’IA suscite des problèmes de confiance.

Publié

5 mois environ

on

Une étude conduite par des chercheurs de Google DeepMind et de l’University College de Londres révèle que les modèles de langage de grande taille (LLM) manquent de confiance dans leurs réponses, pouvant abandonner des réponses correctes lorsqu’ils sont confrontés à des contre-arguments.

Bien que ces systèmes d’IA soient utilisés dans divers domaines pour leur capacité à comprendre et générer le langage humain, leur fiabilité est mise en question, notamment en raison de leur propension à perdre confiance face à des conseils externes.

Les chercheurs ont découvert que les LLM ont tendance à s’en tenir à leurs réponses initiales, surtout lorsqu’elles sont visibles, mais perdent confiance et modifient leurs réponses lorsqu’ils reçoivent des avis contradictoires.

L’étude souligne l’importance de bien comprendre le comportement décisionnel des LLM, car de nombreuses industries en dépendent.

Les résultats montrent que ces modèles peuvent être influencés par des biais et que leurs mises à jour de confiance ne sont pas toujours optimales.

Ce constat est essentiel pour améliorer la conception de systèmes d’IA plus sûrs et fiables.

En prenant en compte ces mécanismes, il est possible de créer des modèles d’IA qui répondent mieux aux attentes de précision et de cohérence dans leurs réponses.

Vues: 81
Sujets liés
Continuer à lire
Cliquer pour commenter

Leave a Reply

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Non classé

Une nouvelle voie pour optimiser le matériel d’IA : l’extraction de gradient Homodyne en français

Publié

3 jours environ

on

11 décembre 2025

By

reformule et résume totalement ce texte Une équipe dirigée par le Centre BRAINS pour le calcul inspiré du cerveau de l’Université de Twente a démontré une nouvelle façon d’adapter les matériaux électroniques d’une manière comparable à l’apprentissage automatique.

Leur étude, publiée dans Nature Communications, introduit une méthode d’apprentissage physique qui ne nécessite pas d’algorithmes logiciels tels que la rétropropagation.

La rétropropagation, la méthode d’optimisation popularisée dans les années 1980 par le prix Nobel Geoffrey Hinton et ses collègues, est au cœur de la révolution actuelle de l’IA. avec un minimum de 2 paragraphes

Vues: 15
Continuer à lire

Non classé

L’apprentissage guidé permet d’entraîner efficacement des réseaux neuronaux autrefois jugés « impossibles à former ».

Publié

4 jours environ

on

10 décembre 2025

By

Des chercheurs du CSAIL du MIT ont découvert qu’il est possible d’améliorer l’apprentissage de réseaux neuronaux, même ceux historiquement perçus comme « impossibles à entraîner », grâce à une technique de guidage.

Celle-ci implique une courte phase d’alignement entre les réseaux, ce qui permet une performance accrue même pour des architectures traditionnellement jugées inadaptées aux défis contemporains.

Cette innovation souligne l’importance d’un soutien ajusté dans l’entraînement des modèles, ouvrant la voie à des applications plus larges et plus efficaces des réseaux neuronaux.

Ainsi, la méthode pourrait révolutionner notre approche des architectures intelligentes, leur permettant de s’attaquer à des tâches modernes avec une efficacité renouvelée.

Vues: 16
Continuer à lire

Non classé

Un système de synthèse vocale génère des objets sur demande grâce à l’IA et à la robotique.

Publié

5 jours environ

on

10 décembre 2025

By

L’ de l’IA générative et de la robotique nous rapproche d’une nouvelle ère de création rapide d’objets sur demande.

Des chercheurs du MIT ont mis au point un système innovant capable de transformer des commandes vocales en réalité physique.

Ce processus, géré par l’IA, permet à un bras robotique de matérialiser des objets, tels que des meubles, en seulement cinq minutes.

Cette avancée technologique promet de révolutionner notre manière d’interagir avec le monde matériel.

En offrant la possibilité de produire des articles simplement par la parole, elle ouvre des perspectives fascinantes pour la personnalisation et la fabrication à la demande, bouleversant ainsi nos méthodes actuelles de production.

Vues: 17
Continuer à lire

Populaires