Les méthodes actuelles, telles que le décodage autorégressif, entraînent des délais, en raison de leur nature séquentielle.

Des chercheurs du MIT et de Google ont proposé une approche innovante nommée « Pâtes », qui optimise le processus par le biais de l’apprentissage pour reconnaître et générer des segments de texte indépendants en parallèle.

Contrairement aux méthodes traditionnelles basées sur des règles fixes, cette technique permet aux modèles d’apprendre à orchestrer leur propre décodage, améliorant ainsi la vitesse de réponse sans compromettre la qualité.

L’équipe a constaté que cette approche permettait de réduire significativement les temps d’attente, avec des gains allant jusqu’à 2 fois la vitesse de réponse tout en maintenant une qualité comparable.

L’innovation réside dans l’utilisation d’un langage d’annotation qui permet aux modèles de marquer les sections pouvant être traitées simultanément, optimisant ainsi l’utilisation des ressources.

Alors que des systèmes propriétaires comme ChatGPT mènent la course, les chercheurs de l’Université de Pennsylvanie et de l’Allen Institute for AI ont mis au point une méthode innovante pour créer des figures scientifiques et des tableaux, permettant à des modèles open source de rivaliser avec leurs homologues fermés.

Leur ensemble de données COSYN-400K comprend plus de 400 000 images synthétiques et a montré qu’il surpassait des modèles de haute performance tels que GPT-4V.

Pour optimiser la création d’un large éventail de données, l’équipe a développé un logiciel appelé DataDreamer, qui automatise le processus de génération.

En intégrant des « personnages » pour diversifier les perspectives, Cosyn a produit des échantillons d’entraînement riches et variés.

Grâce à cette approche, les chercheurs espèrent rendre les techniques de formation visuelle accessibles tout en contournant les problèmes éthiques liés au contenu protégé.

Ce processus, nommé « métabolisme des robots », permet aux machines d’absorber et de réutiliser des pièces pour améliorer leurs compétences, à l’instar des organismes vivants qui intègrent les ressources disponibles.

Les robots sont construits à partir de modules connectables, ce qui leur permet de former des structures complexes, comme des tétraèdres, en fonction des pièces qu’ils acquièrent.

Les chercheurs envisagent un avenir où ces robots autonomes pourraient se maintenir, évoluer, et s’adapter à des environnements variés, particulièrement utiles dans des situations de crise ou d’exploration spatiale.

La capacité des machines à se réparer et s’améliorer soulève cependant des questions éthiques, notamment sur leur gestion dans un monde de plus en plus automatisé.