Outils
L’IA pourrait rendre possible la fabrication de bio-armes échappant aux protocoles de sécurité en vigueur.
Cependant, cette technologie comporte des risques.
Une étude menée par Microsoft révèle que les séquences générées par l’IA peuvent échapper aux systèmes de sécurité utilisés pour détecter les bioagents dangereux.
Les chercheurs ont simulé la création de plus de 76 000 variantes de protéines toxiques connues et constaté qu’une proportion significative de ces séquences passait sous les radars des outils de dépistage de biosécurité.
Pour remédier à cette vulnérabilité, l’équipe a collaboré avec des fournisseurs de logiciels afin d’améliorer les bases de données de menace et d’affiner les outils de détection, ce qui a permis d’augmenter le taux de détection à 97 %.
Malgré ces avancées, 3 % des séquences potentiellement dangereuses sont restées non détectées, soulignant la nécessité d’une mise à jour continue des systèmes de sécurité pour contrer les innovations en matière d’IA.
Cette étude met en lumière l’importance de développer des défenses robustes face aux menaces émergentes et à une éventuelle course aux armements entre bio-sécurité et avancées technologiques.