Connect with us

Entreprise

Que se passe-t-il quand l’IA confronte l’incertitude humaine ?

Publié

on

Dans un monde où l’intelligence artificielle (IA) prend de plus en plus d’importance, comprendre comment les machines prennent des décisions en situation d’incertitude est devenu crucial.

Les chercheurs, comme Willie Neiswanger de l’USC, élaborent des frameworks qui intègrent la théorie des décisions et la théorie des utilités pour renforcer la capacité de l’IA à gérer cette incertitude.

Neiswanger souligne que les modèles de grande langue (LLM) peinent à exprimer des nuances de confiance, produisant des réponses d’apparence sûre même lorsque les données sont insuffisantes.

Son travail vise à améliorer la quantification de l’incertitude, permettant aux systèmes d’IA de prendre des décisions éclairées en tenant compte des préférences humaines.

Les applications de cette recherche sont diverses, allant de la planification stratégique en entreprise à l’aide au diagnostic médical.

En intégrant les préférences des utilisateurs dans le processus décisionnel, il est possible de générer des recommandations qui, tout en étant techniquement optimales, respectent également les valeurs humaines essentielles.

Les prochaines étapes de ces recherches visent à élargir ces approches à des domaines variés, comme la logistique ou les soins de santé, tout en améliorant la transparence des décisions prises par les modèles, afin que les utilisateurs comprennent mieux comment et pourquoi ces choix sont faits.

Entreprise

Zhipu met au défi OpenAI avec le lancement imminent de son modèle open-source GLM-4.5, prévu pour la semaine prochaine.

Publié

on

Zhipu, rebaptisée Z.AI, s’apprête à lancer la nouvelle version de son modèle de langage open source, GLM-4.

5, dès lundi prochain.

Cette initiative s’inscrit dans une tendance croissante parmi les entreprises technologiques chinoises, qui cherchent à offrir des modèles d’intelligence artificielle avancés gratuitement.

GLM-4.

5 vise à améliorer le modèle phare actuel de la société, renforçant ainsi sa position sur le marché mondial de l’IA.

Parallèlement, Zhipu envisage de déplacer son en bourse de la Chine continentale vers Hong Kong, potentiellement pour lever jusqu’à 300 millions de dollars.

Cette réévaluation de stratégie intervient alors que plusieurs startups de l’IA en Chine s’efforcent de se faire un nom dans un secteur dominé par des entreprises américaines, en lançant des modèles plus puissants et accessibles.

L’essor de l’open source pourrait également influencer les normes mondiales de l’IA.

Continuer à lire

Entreprise

Sam Altman avertit qu’il n’existe pas de confidentialité légale en utilisant ChatGPT comme thérapeute.

Publié

on

Les utilisateurs de ChatGPT devraient réfléchir à deux fois avant d’utiliser cette IA pour des discussions sensitives, comme la thérapie.

Sam Altman, PDG d’OpenAI, a souligné lors d’un podcast que l’industrie de l’IA n’a pas établi de protections adéquates pour la confidentialité des conversations, notamment en comparaison avec le privilège de confidentialité existant entre un patient et son médecin.

En conséquence, des informations sensibles échangées avec un chatbot pourraient être légalement accessibles dans le cadre de procédures judiciaires.

Altman a exprimé des préoccupations concernant les implications juridiques de ces conversations, plaidant pour que des normes de confidentialité similaires soient appliquées aux interactions avec l’IA.

Il a également mentionné que le manque de protection pourrait freiner l’adoption de ces technologies par les utilisateurs.

En réponse à ces enjeux, OpenAI conteste des décisions judiciaires qui pourraient forcer l’entreprise à divulguer des données utilisateur, soulignant l’importance de la clarté sur la confidentialité dans l’utilisation des outils d’IA.

Continuer à lire

Entreprise

Nommer Shengjia Zhao au poste de scientifique en chef de l’unité de supervision de l’IA.

Publié

on

Mark Zuckerberg, le PDG de Meta, a récemment nommé Shengjia Zhao, ancien chercheur d’OpenAI, au poste de scientifique en chef de Meta Superintelligence Labs (MSL).

Zhao, reconnu pour ses contributions significatives à des projets comme ChatGPT et O1, sera chargé d’établir un programme de recherche au sein de cette nouvelle unité, sous la direction d’Alexandr Wang.

Ce dernier, bien qu’il n’ait pas de formation en recherche, a été recruté pour sa vision.

Meta intensifie ses efforts pour rivaliser dans le domaine de l’intelligence artificielle, en recrutant plusieurs spécialistes de haut niveau d’autres entreprises technologiques, tels qu’OpenAI et Google DeepMind.

L’entreprise investit également massivement dans des infrastructures de cloud computing pour soutenir l’entraînement de modèles avancés d’IA.

À terme, Zhao et son équipe devraient bénéficier d’une immense capacité de calcul, ce qui pourrait propulser Meta parmi les leaders de l’IA au même niveau qu’OpenAI et Google.

Continuer à lire

Populaires