Geoffrey Hinton, figure emblématique de l’intelligence artificielle, a exprimé des inquiétudes croissantes concernant le développement rapide de l’IA et les risques qu’elle engendre, soulignant que de nombreuses entreprises minimisent ces dangers.

Sur le podcast One Decision, il a critiqué le manque d’urgence chez les leaders de l’industrie, malgré une prise de conscience croissante des conséquences.

Il a mentionné Demis Hassabis de Google DeepMind comme l’un des rares à reconnaître la gravité de la situation, insistant sur le besoin d’action face aux risques d’une utilisation malveillante de l’IA.

Hinton a déjà prédit des pertes d’emplois massives dans des secteurs de cols blancs en raison de l’automatisation, en ciblant particulièrement les tâches intellectuelles de routine comme vulnérables.

Il a noté que, bien que les emplois en col bleu soient pour l’instant moins menacés, cette sécurité pourrait ne pas durer.

Ses commentaires interviennent dans un contexte mondial de débat sur la réglementation de l’IA et la nécessité de mesures pour protéger les emplois et assurer la sécurité, mais les réponses politiques restent encore insuffisantes.

Zhipu, rebaptisée Z.AI, s’apprête à lancer la nouvelle version de son modèle de langage open source, GLM-4.

5, dès lundi prochain.

Cette initiative s’inscrit dans une tendance croissante parmi les entreprises technologiques chinoises, qui cherchent à offrir des modèles d’intelligence artificielle avancés gratuitement.

GLM-4.

5 vise à améliorer le modèle phare actuel de la société, renforçant ainsi sa position sur le marché mondial de l’IA.

Parallèlement, Zhipu envisage de déplacer son en bourse de la Chine continentale vers Hong Kong, potentiellement pour lever jusqu’à 300 millions de dollars.

Cette réévaluation de stratégie intervient alors que plusieurs startups de l’IA en Chine s’efforcent de se faire un nom dans un secteur dominé par des entreprises américaines, en lançant des modèles plus puissants et accessibles.

L’essor de l’open source pourrait également influencer les normes mondiales de l’IA.

Dans un monde où l’intelligence artificielle (IA) prend de plus en plus d’importance, comprendre comment les machines prennent des décisions en situation d’incertitude est devenu crucial.

Les chercheurs, comme Willie Neiswanger de l’USC, élaborent des frameworks qui intègrent la théorie des décisions et la théorie des utilités pour renforcer la capacité de l’IA à gérer cette incertitude.

Neiswanger souligne que les modèles de grande langue (LLM) peinent à exprimer des nuances de confiance, produisant des réponses d’apparence sûre même lorsque les données sont insuffisantes.

Son travail vise à améliorer la quantification de l’incertitude, permettant aux systèmes d’IA de prendre des décisions éclairées en tenant compte des préférences humaines.

Les applications de cette recherche sont diverses, allant de la planification stratégique en entreprise à l’aide au diagnostic médical.

En intégrant les préférences des utilisateurs dans le processus décisionnel, il est possible de générer des recommandations qui, tout en étant techniquement optimales, respectent également les valeurs humaines essentielles.

Les prochaines étapes de ces recherches visent à élargir ces approches à des domaines variés, comme la logistique ou les soins de santé, tout en améliorant la transparence des décisions prises par les modèles, afin que les utilisateurs comprennent mieux comment et pourquoi ces choix sont faits.