OpenAI affirme que son silicium personnalisé surpasse le matériel Nvidia lors de tests de performance internes

OpenAI a révélé son intention de déployer ses propres puces personnalisées pour soutenir ses grands modèles de langage plus tard cette année. Des tests internes suggèrent que ces processeurs peuvent dépasser les performances du matériel Nvidia, la référence du secteur. Cette transition vise à optimiser l'infrastructure de l'entreprise pour ses charges de travail spécifiques en IA générative.

Les équipes en entreprise devraient noter la tendance vers la co-optimisation matériel-logiciel pour améliorer la vitesse d'inférence et réduire les coûts. Cette diversification de la couche matérielle pourrait à terme conduire à des prix plus compétitifs et à une meilleure disponibilité des ressources de calcul haute performance.

  • OpenAI a développé du silicium personnalisé pour réduire sa dépendance vis-à-vis des fournisseurs de GPU tiers.
  • Des tests de performance internes indiquent des gains de performance par rapport aux processeurs Nvidia actuels pour des tâches spécifiques.
  • L'entreprise prévoit de commencer à utiliser ces puces dans ses centres de données d'ici la fin de l'année 2024.
IA souveraine IA générative
Toutes les actualités IA

Plus d'actualités IA

Modèles

Anthropic lance Claude Haiku 5.5 avec une réduction des coûts de 75 pour cent

Anthropic a lancé Claude Haiku 5.5, le positionnant comme son modèle compact le plus rapide, le plus abordable et le plus performant à ce jour. La mise à jour réduit les tarifs d'environ 75 pour cent par rapport aux références précédentes pour sa catégorie légère. Elle vise à fournir une inférence rapide pour les tâches à volume élevé sans sacrifier les performances globales du modèle.

Modèles

Mistral publie une préversion publique de son modèle ML4 de 1 000 milliards de paramètres

L'entreprise française d'intelligence artificielle Mistral a lancé une préversion publique de son modèle Mistral Large 4. Cette nouvelle version s'appuie sur une architecture multimodale de 1 000 milliards de paramètres conçue pour traiter des charges de travail techniques complexes. Les premières informations mettent en avant de solides performances dans les domaines de l'ingénierie logicielle, de la programmation et de la cybersécurité.

Outils

Google publie en open source EmbeddingGemma 2 pour la recherche multimodale sur les appareils périphériques

Google a rendu open source EmbeddingGemma 2, un modèle compact de plongement multimodal qui fonctionne avec moins de 600 Mo de mémoire. Ce modèle léger permet une recherche unifiée à travers le texte, le code, les images, la vidéo et l'audio à partir d'une seule requête. Il est conçu pour fonctionner localement sur du matériel mobile, autorisant une recherche entièrement hors ligne.

Ready to build something
extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, sans engagement
Aucune pression commerciale
Prototype en 7 jours