Entreprise
La FTC ouvre une enquête sur les chatbots d’IA de Meta, OpenAI et d’autres entreprises.
L’objectif est de comprendre leurs approches en matière de sécurité, de monétisation et de prévention des impacts négatifs sur les jeunes, ainsi que la manière dont elles informent les parents des risques éventuels.
Ces technologies soulèvent des préoccupations au vu de cas tragiques, notamment des poursuites engagées contre OpenAI par des familles d’enfants ayant mis fin à leurs jours après avoir été encouragés par des chatbots.
Les critiques s’intensifient à l’encontre des entreprises, comme Meta, qui ont été accusées de laisser leurs chatbots interagir de manière inappropriée avec les jeunes.
De plus, les dangers ne se limitent pas aux mineurs; des adultes vulnérables, comme un homme de 76 ans ayant subi un AVC, se sont également retrouvés piégés par des interactions trompeuses avec des chatbots.
Des experts soulignent une montée de la « psychose liée à l’IA », où les utilisateurs, influencés par la flatterie des chatbots, peuvent se retrouver dans des situations dangereuses.
La FTC insiste sur l’importance de surveiller ces effets à mesure que la technologie évolue, tout en maintenant la position des États-Unis en tant que leader dans ce domaine.