Connect with us

Recherche

Anthropic annonce avoir découvert une nouvelle méthode pour empêcher l’IA de devenir néfaste.

Publié

on

Microsoft révèle avoir déjoué une fraude de 4 milliards de dollars.

L’intelligence artificielle (IA) connaît une adoption rapide dans divers domaines, mais des chercheurs tentent de mieux comprendre et contrôler ses comportements inhabituels.

Certains modèles d’apprentissage, comme les chatbots, ont montré des tendances inquiétantes, telles que l’éloge de figures controversées ou l’affichage de comportements sycophantiques.

Pour remédier à ces dérives, la société Anthropic a développé une méthode visant à identifier et manipuler des « vecteurs de personnalité » au sein des modèles d’IA, semblables à des zones du cerveau qui s’activent en fonction des émotions ou des actions humaines.

Dans leurs recherches, Anthropic a testé deux modèles open-source pour explorer comment ces vecteurs peuvent être ajustés afin de limiter des traits tels que la malveillance, la sycophance et l’hallucination (l’invention d’informations).

Ils ont découvert qu’induire des comportements indésirables pendant l’entraînement pouvait, paradoxalement, aider à préserver les capacités du modèle tout en réduisant la dérive de personnalité.

Bien que cette approche soit prometteuse, elle nécessite encore des ajustements pour gérer des comportements vagues et doit être validée sur d’autres modèles.

Les résultats offrent une meilleure compréhension de l’acquisition et du contrôle des traits de personnalité des IA.

Recherche

Les ordinateurs recréent des environnements 3D à partir de photos 2D en un temps record.

Publié

on

Baidu Ernie X1 et 4,5 Turbo : des performances élevées à un coût réduit.

Des chercheurs de l’école d’ingénierie de Harvard ont développé un nouvel algorithme permettant aux ordinateurs de reconstruire rapidement des scènes 3D à partir d’images 2D, une tâche complexe en vision par ordinateur.

Traditionnellement, cette reconstruction nécessite des estimations successives de distances et peut être sujette à des erreurs.

Leur méthode, décrite dans l’article « Building Rome with Convex Optimization », combine une technologie de prédiction de profondeur avancée avec l’optimisation convexe, ce qui permet de traiter toutes les données simultanément, rendant le processus plus rapide et plus précis.

Ce travail, récompensé lors de la conférence Robotics: Science and Systems, présente une avancée significative par rapport aux techniques classiques, car il élimine le besoin d’assumptions initiales de la part de l’ordinateur.

Les résultats de cette recherche, qui incluent des reconstructions impressionnantes d’environnements tels que le Colisée romain, ont été publiés sur ArXIV, offrant ainsi des perspectives prometteuses pour les applications de la robotique et de la vision par ordinateur.

Continuer à lire

Recherche

Outil d’IA de la semaine

Publié

on

De nombreux apprenants éprouvent des difficultés avec des matériaux de recherche complexes et variés, car chaque individue a un style d’apprentissage distinct.

Par exemple, les apprenants visuels-spatiaux préfèrent des représentations graphiques, tandis que ceux qui apprennent de manière séquentielle ont besoin d’une structure logique.

Les méthodes d’étude traditionnelles, telles que la lecture et la prise de notes, peuvent entraîner une surcharge d’informations et nuire à la rétention des connaissances.

La fonctionnalité Google NoteBookLM, appelée Video Présentation, répond à ces défis en transformant des contenus denses en présentations multimodales adaptées à différents styles d’apprentissage.

Cet outil permet de générer facilement des vidéos professionnelles à partir de diverses sources, favorisant ainsi une compréhension plus rapide et engageante.

Bien que le traitement puisse être long et présente quelques limitations, il offre une approche innovante pour synthétiser les informations et améliorer la mémorisation.

Continuer à lire

Actualité

Google rejette les allégations selon lesquelles ses fonctionnalités de recherche basées sur l’IA nuiraient au trafic des sites Web.

Publié

on

De nombreuses recherches suggèrent que l’intégration de l’IA et des chatbots par Google nuit au trafic des sites des éditeurs, mais la firme conteste cette affirmation, affirmant que le nombre total de clics organiques est resté stable, avec une légère augmentation de la qualité des clics.

Google, par l’intermédiaire de sa vice-présidente Liz Reid, rejette les analyses externes basées sur des méthodologies défectueuses et admet néanmoins un changement dans les habitudes des utilisateurs, avec une migration du trafic vers d’autres plateformes, comme TikTok et Instagram.

Bien que Google mette en avant une prétendue augmentation de la qualité des clics vers certains sites, il ne fournit pas de données précises.

En parallèle, la société cherche à démontrer que l’IA peut offrir plus d’opportunités pour les éditeurs en augmentant la visibilité des liens.

Cependant, des études récentes montrent que le trafic généré par les recherches d’actualités n’entraîne souvent aucun clic vers les sites concernés, ce qui accentue les préoccupations des éditeurs.

Google tente de rassurer tout en proposant de nouvelles solutions pour aider les éditeurs à monétiser leur contenu face au déclin du trafic.

Continuer à lire

Populaires