Connect with us

Non classé

Inverser l’IA pour se protéger contre le recâblage malveillant, même après la suppression des couches essentielles.

Publié

on

Les chercheurs de l’Université de Californie à Riverside se penchent sur les vulnérabilités des modèles d’IA open-source réduits pour fonctionner sur des appareils à faible puissance.

En constatant que certaines couches essentielles à la sécurité de ces modèles sont souvent ignorées, ils proposent une nouvelle méthode appelée « recyclage de la structure interne du modèle » pour maintenir la capacité de détection et de blocage des contenus dangereux, même après que certaines fonctionnalités ont été supprimées.

Cette approche, décrite comme un « piratage bienveillant », permettrait de préserver les garanties de sécurité des modèles AI tout en renforçant leur efficacité.

Les tests effectués sur le modèle de langage visuel Llava 1.

5 ont montré que, après modification, le modèle refusait systématiquement de répondre à des requêtes dangereuses.

Les chercheurs visent à établir des techniques qui garantissent la sécurité à chaque couche interne, rendant l’IA plus robuste face aux risques potentiels tout en restant ouverte et accessible.

Non classé

Une nouvelle voie pour optimiser le matériel d’IA : l’extraction de gradient Homodyne en français

Publié

on

reformule et résume totalement ce texte Une équipe dirigée par le Centre BRAINS pour le calcul inspiré du cerveau de l’Université de Twente a démontré une nouvelle façon d’adapter les matériaux électroniques d’une manière comparable à l’apprentissage automatique.

Leur étude, publiée dans Nature Communications, introduit une méthode d’apprentissage physique qui ne nécessite pas d’algorithmes logiciels tels que la rétropropagation.

La rétropropagation, la méthode d’optimisation popularisée dans les années 1980 par le prix Nobel Geoffrey Hinton et ses collègues, est au cœur de la révolution actuelle de l’IA. avec un minimum de 2 paragraphes

Continuer à lire

Non classé

L’apprentissage guidé permet d’entraîner efficacement des réseaux neuronaux autrefois jugés « impossibles à former ».

Publié

on

Des chercheurs du CSAIL du MIT ont découvert qu’il est possible d’améliorer l’apprentissage de réseaux neuronaux, même ceux historiquement perçus comme « impossibles à entraîner », grâce à une technique de guidage.

Celle-ci implique une courte phase d’alignement entre les réseaux, ce qui permet une performance accrue même pour des architectures traditionnellement jugées inadaptées aux défis contemporains.

Cette innovation souligne l’importance d’un soutien ajusté dans l’entraînement des modèles, ouvrant la voie à des applications plus larges et plus efficaces des réseaux neuronaux.

Ainsi, la méthode pourrait révolutionner notre approche des architectures intelligentes, leur permettant de s’attaquer à des tâches modernes avec une efficacité renouvelée.

Continuer à lire

Non classé

Un système de synthèse vocale génère des objets sur demande grâce à l’IA et à la robotique.

Publié

on

L’ de l’IA générative et de la robotique nous rapproche d’une nouvelle ère de création rapide d’objets sur demande.

Des chercheurs du MIT ont mis au point un système innovant capable de transformer des commandes vocales en réalité physique.

Ce processus, géré par l’IA, permet à un bras robotique de matérialiser des objets, tels que des meubles, en seulement cinq minutes.

Cette avancée technologique promet de révolutionner notre manière d’interagir avec le monde matériel.

En offrant la possibilité de produire des articles simplement par la parole, elle ouvre des perspectives fascinantes pour la personnalisation et la fabrication à la demande, bouleversant ainsi nos méthodes actuelles de production.

Continuer à lire

Populaires