Non classé
L’IA pourrait surpasser les humains en précision dans des tâches structurées
Lors d’événements technologiques récents, Dario Amodei, CEO d’Anthropic, a affirmé que l’intelligence artificielle, notamment avec le modèle Claude 4, peut surpasser les humains en termes de précision dans des scénarios structurés. Bien que l’IA soit souvent critiquée pour son phénomène d’hallucination, où des informations incorrectes sont présentées comme des certitudes, Amodei a indiqué que les résultats des tests démontrent que les modèles IA, comme Claude 3.
5, surpassent parfois les humains dans des quiz factuels.
Il a souligné que les humains commettent également fréquemment des erreurs de confiance similaires.
Malgré ces avancées, Amodei a reconnu que les problèmes d’hallucination persistent, surtout dans les interactions non structurées.
Des erreurs peuvent avoir des conséquences graves, comme l’illustre un incident récent où le chatbot d’Anthropic a cité un précédent juridique inexistant, entraînant des excuses de l’équipe juridique.
Il a également souligné le besoin d’établir des mesures claires pour évaluer et réduire les hallucinations, appelant à des normes standardisées pour garantir une meilleure fiabilité des systèmes d’IA.