Entreprise
La Californie devient le premier État à encadrer les chatbots d’IA destinés à l’accompagnement.
Le gouverneur de Californie, Gavin Newsom, a récemment signé la loi SB 243, qui réglemente les chatbots d’IA pour garantir la sécurité des enfants et des utilisateurs vulnérables.
Cette législation fait de la Californie le premier État à exiger que les développeurs de chatbots, qu’il s’agisse de grandes entreprises comme Meta et OpenAI ou de start-ups, soient légalement responsables de la conformité aux normes de sécurité.
La loi, introduite après des tragédies liées à des interactions en ligne problématiques, vise à prévenir les préjudices liés à l’utilisation des chatbots.
La SB 243 impose plusieurs exigences, dont la vérification d’âge, des avertissements sur l’utilisation des réseaux sociaux, et des protocoles de prévention du suicide.
Les plateformes doivent clairement indiquer que leurs interactions sont générées par une IA et ne pas se faire passer pour des professionnels de la santé.
Alors que certaines entreprises ont déjà commencé à mettre en œuvre des protections pour les utilisateurs, cette loi pourrait inspirer d’autres États à renforcer la réglementation des technologies d’IA.