Geoffrey Hinton, figure emblématique de l’intelligence artificielle, a exprimé des inquiétudes croissantes concernant le développement rapide de l’IA et les risques qu’elle engendre, soulignant que de nombreuses entreprises minimisent ces dangers.

Sur le podcast One Decision, il a critiqué le manque d’urgence chez les leaders de l’industrie, malgré une prise de conscience croissante des conséquences.

Il a mentionné Demis Hassabis de Google DeepMind comme l’un des rares à reconnaître la gravité de la situation, insistant sur le besoin d’action face aux risques d’une utilisation malveillante de l’IA.

Hinton a déjà prédit des pertes d’emplois massives dans des secteurs de cols blancs en raison de l’automatisation, en ciblant particulièrement les tâches intellectuelles de routine comme vulnérables.

Il a noté que, bien que les emplois en col bleu soient pour l’instant moins menacés, cette sécurité pourrait ne pas durer.

Ses commentaires interviennent dans un contexte mondial de débat sur la réglementation de l’IA et la nécessité de mesures pour protéger les emplois et assurer la sécurité, mais les réponses politiques restent encore insuffisantes.

Dans un monde où l’intelligence artificielle (IA) prend de plus en plus d’importance, comprendre comment les machines prennent des décisions en situation d’incertitude est devenu crucial.

Les chercheurs, comme Willie Neiswanger de l’USC, élaborent des frameworks qui intègrent la théorie des décisions et la théorie des utilités pour renforcer la capacité de l’IA à gérer cette incertitude.

Neiswanger souligne que les modèles de grande langue (LLM) peinent à exprimer des nuances de confiance, produisant des réponses d’apparence sûre même lorsque les données sont insuffisantes.

Son travail vise à améliorer la quantification de l’incertitude, permettant aux systèmes d’IA de prendre des décisions éclairées en tenant compte des préférences humaines.

Les applications de cette recherche sont diverses, allant de la planification stratégique en entreprise à l’aide au diagnostic médical.

En intégrant les préférences des utilisateurs dans le processus décisionnel, il est possible de générer des recommandations qui, tout en étant techniquement optimales, respectent également les valeurs humaines essentielles.

Les prochaines étapes de ces recherches visent à élargir ces approches à des domaines variés, comme la logistique ou les soins de santé, tout en améliorant la transparence des décisions prises par les modèles, afin que les utilisateurs comprennent mieux comment et pourquoi ces choix sont faits.

Les utilisateurs de ChatGPT devraient réfléchir à deux fois avant d’utiliser cette IA pour des discussions sensitives, comme la thérapie.

Sam Altman, PDG d’OpenAI, a souligné lors d’un podcast que l’industrie de l’IA n’a pas établi de protections adéquates pour la confidentialité des conversations, notamment en comparaison avec le privilège de confidentialité existant entre un patient et son médecin.

En conséquence, des informations sensibles échangées avec un chatbot pourraient être légalement accessibles dans le cadre de procédures judiciaires.

Altman a exprimé des préoccupations concernant les implications juridiques de ces conversations, plaidant pour que des normes de confidentialité similaires soient appliquées aux interactions avec l’IA.

Il a également mentionné que le manque de protection pourrait freiner l’adoption de ces technologies par les utilisateurs.

En réponse à ces enjeux, OpenAI conteste des décisions judiciaires qui pourraient forcer l’entreprise à divulguer des données utilisateur, soulignant l’importance de la clarté sur la confidentialité dans l’utilisation des outils d’IA.