Entreprise
Le nouveau moteur de raisonnement de Clarifai accélère et réduit le coût des modèles d’IA.
Adapté à divers modèles et environnements cloud, ce système utilise plusieurs optimisations, comme des techniques avancées de décodage, pour maximiser la puissance d’inférence sans nécessiter de matériel supplémentaire.
Des tests effectués par une société tierce ont confirmé que ce moteur offrait des performances exceptionnelles en termes de débit et de latence.
Originellement fondée sur la vision par ordinateur, Clarifai développe désormais des solutions pour orchestrer le calcul, répondant à la demande croissante pour les GPU et les infrastructures de centres de données.
Le lancement de ce moteur est particulièrement significatif dans un contexte de hausse de la demande en IA, alors que des entreprises comme OpenAI investissent massivement dans de nouveaux centres de données.
Toutefois, le PDG de Clarifai, Matthew Zeiler, suggère que l’optimisation logicielle joue un rôle crucial, affirmant qu’il reste encore des innovations algorithmiques à découvrir pour améliorer l’efficacité des infrastructures existantes.