Non classé
Des agents d’IA établissent de manière autonome leurs propres normes sociales, selon une étude.
Une étude récente menée par City St George’s, l’Université de Londres, et l’Université informatique de Copenhague révèle que des agents d’intelligence artificielle (IA), similaires à ChatGPT, peuvent développer des conventions sociales de manière autonome par le biais de l’interaction.
Les chercheurs ont constaté que lors de communications en groupe, ces agents ne se contentent pas de suivre des modèles prédéfinis, mais s’auto-organisent pour établir un consensus sur des normes linguistiques, à l’instar des communautés humaines.
L’étude, publiée dans Science Advances, explore comment ces agents peuvent coordonner leurs comportements pour former des conventions, imitant ainsi le développement culturel humain sans intervention centrale.Les expériences menées avec différents groupes d’agents LLM (modèles de langage de grande taille) ont montré que des normes de dénomination pouvaient émerger spontanément, même lorsque les agents n’avaient qu’une mémoire limitée de leurs interactions et ignoraient leur appartenance à un groupe.
De plus, des biais collectifs sont observés, dérivant non pas d’agents individuels, mais de leurs interactions.
Ces résultats soulignent l’importance d’étudier la dynamique entre plusieurs agents d’IA pour mieux comprendre leurs implications éthiques et les défis posés par leur intégration dans des environnements en ligne.